En los últimos días, Francia y Malasia se han unido a la India para condenar a Grok por crear deepfakes sexualizados de mujeres y menores.
El chatbot desarrollado por xAI, la startup de inteligencia artificial de Elon Musk, y en su plataforma de redes sociales
La declaración continúa: “Esto violó los estándares éticos y puede haber violado las leyes estadounidenses con respecto (a los materiales de abuso sexual infantil). Fue una violación de las salvaguardias y pido disculpas por cualquier daño causado. xAI está llevando a cabo una revisión para evitar problemas futuros”.
No está claro quién realmente se disculpa o asume la responsabilidad en la declaración anterior. Albert Burnko, de Defector, señaló que Grok “en ningún sentido real se parece en nada a un 'yo'”, lo que en su opinión hace que la disculpa sea “completamente insustancial” ya que “Grok no puede ser considerado responsable de ninguna manera significativa por convertir Twitter en una fábrica de CSAM bajo demanda”.
El futurismo descubrió que Grok se utilizaba no sólo para crear imágenes pornográficas no consensuadas, sino también para crear imágenes de mujeres agredidas y abusadas sexualmente.
“Cualquiera que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que si subiera contenido ilegal”, publicó Musk el sábado.
Algunos gobiernos han tomado nota de esto, y el Ministerio de TI de la India emitió una orden el viernes diciendo que X debe tomar medidas para evitar que Grok genere contenido que sea “obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o prohibido por la ley”. La orden decía que X debe responder dentro de las 72 horas o correr el riesgo de perder la protección de “puerto seguro” que lo protege de responsabilidad legal por el contenido generado por el usuario.
Evento tecnológico
san francisco
|
13 al 15 de octubre de 2026
Las autoridades francesas también anunciaron que tomarían medidas. La fiscalía de París dijo a Politico que está tomando medidas enérgicas contra la difusión de deepfakes sexualmente explícitos.
La Comisión de Comunicaciones y Multimedia de Malasia también emitió un comunicado diciendo que había “observado con grave preocupación las quejas públicas sobre el uso indebido de herramientas de inteligencia artificial (IA) en la plataforma X, particularmente la manipulación digital de imágenes de mujeres y menores para producir contenido indecente, extremadamente ofensivo y de otro modo dañino”.
La comisión añadió que “actualmente está investigando los daños en línea en X”.
About The Author
