Las autoridades de California iniciaron una investigación sobre xAI después de semanas de informes de que el chatbot estaba generando imágenes sexualizadas de niños. “xAI parece facilitar la producción a gran escala de imágenes íntimas, no consensuales y deepfake utilizadas para acosar a mujeres y niñas en Internet, incluso a través de la plataforma de redes sociales X”, dijo la oficina del fiscal general de California, Rob Bonta, en un comunicado.
El comunicado citaba un informe de que “más de la mitad de las 20.000 imágenes creadas por xAI entre Navidad y Año Nuevo mostraban a personas con ropa mínima”, incluidos algunos que parecían ser niños. “Tenemos tolerancia cero con la creación y distribución basada en inteligencia artificial de imágenes íntimas no consentidas o material de abuso sexual infantil”, dijo Bonta. “Hoy mi oficina anuncia oficialmente una investigación sobre xAI para determinar si xAI violó la ley y cómo.
La investigación se anunció cuando el gobernador de California, Gavin Newsom, también pidió a Bonta que investigara xAI. “La decisión de xAI de crear y albergar un caldo de cultivo para que los depredadores difundan deepfakes de IA sexualmente explícitos y no consensuados, incluidas imágenes que desnudan digitalmente a niños, es aborrecible”, escribió Newsom.
Las autoridades de California no son las primeras en investigar a la empresa tras informes generalizados de material de abuso sexual infantil (CSAM) generado por IA e imágenes íntimas no consentidas de mujeres. El regulador británico Ofcom también inició una investigación oficial y funcionarios de la Unión Europea han dicho que también están investigando el asunto. Malasia e Indonesia han comenzado a bloquear a Grok.
La semana pasada, xAI comenzó a imponer límites de velocidad a las capacidades de imágenes de Grok, pero hasta ahora se ha negado a desconectarlo por completo. Cuando se le pidió que comentara sobre la investigación de California, xAI respondió con un correo electrónico automatizado que decía: “Legacy Media Lies”.
El miércoles temprano, Elon Musk dijo que “no tenía conocimiento de ninguna imagen de menores desnudos creada por Grok”. En particular, esta declaración no refuta directamente la afirmación de Bonta de que Grok se utiliza para “alterar imágenes de niños para representarlos con ropa mínima y situaciones sexuales”. Musk dijo que el “principio operativo de Grok es obedecer la ley” y que la compañía está trabajando para abordar los casos de “pirateo hostil de las indicaciones de Grok”.
About The Author
