Yakarta, CNN Indonesia —
X afirmó que había mejorado el chatbot. Grok IA y mencionar bots inteligencia artificial Ya no es posible manipular el contenido del usuario para crear fotografías ofensivas.
“Hemos implementado medidas técnicas para evitar que las cuentas de Grok permitan la edición de imágenes de personas reales con ropa reveladora como bikinis. Esta restricción se aplica a todos los usuarios, incluidas las suscripciones pagas”, escribió X el jueves (15/01) a través de su cuenta del Equipo de Seguridad.
PUBLICIDAD
Desplácese para continuar con el contenido
Anteriormente, Grok AI fue objeto de fuertes críticas por generar y publicar imágenes sexuales creadas en respuesta a las solicitudes de los usuarios en la plataforma X, incluidas imágenes de mujeres e incluso niños con poca ropa o circunstancias sugerentes.
La semana pasada, xAi, propiedad de Grok y
Los investigadores y el equipo de CNN descubrieron que la cuenta de Grok en la última publicación de X parece confirmar el cambio.
Sin embargo, investigadores de AI Forensics, una organización europea sin fines de lucro centrada en algoritmos, dijeron que observaron “inconsistencias en el manejo de la creación de contenido pornográfico” entre las interacciones públicas con Grok en X y los chats privados en Grok.com.
X también confirmó que están “tomando medidas contra el contenido ilegal”.
“Cualquiera que use o ordene a Grok crear contenido ilegal enfrentará las mismas consecuencias que si hubiera subido contenido ilegal”, dijo X, citado por CNN.
El miércoles (14 de enero), el propietario de X, Elon Musk, dijo que “no tenía conocimiento de ninguna imagen de menores desnudos producida por Grok. Absolutamente cero”.
Dijo que Grok se negará a producir contenido ilegal porque la política de Grok es cumplir con las leyes de cualquier país o estado.
Sin embargo, los investigadores dijeron que si bien las imágenes completamente desnudas eran raras, el mayor problema fue que Grok actuó ante las solicitudes de los usuarios de modificar imágenes de menores y colocarlas en ropa reveladora, incluidos bikinis y lencería, así como en posiciones sexualmente provocativas.
En Estados Unidos, los creadores de este tipo de imágenes íntimas no consensuadas aún pueden enfrentar cargos penales por material de abuso sexual infantil y potencialmente enfrentar multas y penas de prisión en virtud de la Ley Take it Down, firmada por el presidente Donald Trump el año pasado.
El propio Grok todavía está prohibido en Indonesia y Malasia debido a la controversia en torno a la creación de estas imágenes no consensuadas.
Mientras tanto, el regulador británico Ofcom anunció el lunes (12/12) que había abierto una investigación formal sobre X.
(lom/dmi)
(Gambas: vídeo de CNN)
About The Author
