A principios de esta semana, la Oficina del Fiscal General de California anunció que estaba investigando a xAI por informes de que el chatbot de la startup, Grok, se utilizó para crear imágenes sexuales no consensuadas de mujeres y menores. El viernes, el gobierno envió una carta de cese y desistimiento a la empresa, pidiéndole que tomara medidas inmediatas para detener la producción de imágenes íntimas no consentidas y CSAM (material de abuso sexual infantil).
“Hoy envié a xAI una carta de cese y desistimiento pidiendo a la compañía que deje de crear y distribuir de inmediato imágenes y material de abuso sexual infantil íntimo, no consensuado y deepfake”, dijo el fiscal general de California, Rob Bonta, en un comunicado de prensa. “La creación de este material es ilegal. Espero que xAI cumpla de inmediato. California tiene tolerancia cero con (CSAM)”.
La oficina del fiscal general también afirmó que xAI parece “facilitar la producción a gran escala” de fotografías de desnudos no consensuales que se “utilizan para acosar a mujeres y niñas en línea”. La agencia dijo que espera que xAI demuestre dentro de los próximos cinco días que está tomando medidas para abordar estos problemas.
En el centro de la reacción está la función del modo “picante” de Grok, que xAI diseñó para generar contenido explícito. El problema se ha extendido más allá de California; Japón, Canadá y el Reino Unido han iniciado investigaciones sobre Grok, y Malasia e Indonesia han bloqueado temporalmente la plataforma por completo. Aunque xAI implementó algunas restricciones en sus capacidades de edición de imágenes el miércoles por la noche, la oficina del fiscal general de California continuó con su carta de cese y desistimiento.
La cuenta de seguridad de TechCrunch contactó a xAI para hacer comentarios y recibió un correo electrónico automatizado que decía “Legacy Media Lies”. TC también se comunicó con la oficina del fiscal general de California para obtener información adicional.
La aparición de herramientas gratuitas de inteligencia artificial generativa ha provocado un aumento inquietante del contenido sexual no consensuado. Muchas plataformas han abordado este tema, no sólo X. Las actividades sucias han llamado la atención no sólo de los líderes mundiales sino también del Congreso. De hecho, el jueves los legisladores enviaron una carta a los ejecutivos de varias empresas, incluidas X, Reddit, Snap, TikTok, Alphabet y Meta, preguntándoles cómo planeaban frenar la propagación de deepfakes sexualizados.
About The Author
