Los gobiernos luchan contra la marea de desnudez no consensuada en X

Durante las últimas dos semanas, X se ha visto inundado de imágenes de desnudos manipuladas por IA creadas por el chatbot Grok AI. Un número alarmante de mujeres se ven afectadas por la desnudez no consentida, incluidas modelos y actrices destacadas, así como presentadoras de noticias, víctimas de delitos e incluso líderes mundiales.

Un informe de investigación de Copyleaks del 31 de diciembre decía que se publicaba aproximadamente una imagen cada minuto, pero pruebas posteriores encontraron muchas más. Una muestra recolectada del 5 al 6 de enero encontró 6.700 por hora durante un período de 24 horas.

Pero si bien figuras públicas de todo el mundo han condenado la decisión de lanzar el modelo sin salvaguardias, existen pocos mecanismos claros para que los reguladores esperen frenar el nuevo sistema de manipulación de imágenes de Elon Musk. El resultado se ha convertido en una dolorosa lección sobre los límites de la regulación tecnológica y en un desafío de futuro para los reguladores que esperan hacer una declaración.

No es sorprendente que la acción más agresiva proviniera de la Comisión Europea, que el jueves ordenó a xAI preservar todos los documentos relacionados con su chatbot Grok. La medida no significa necesariamente que la Comisión haya abierto una nueva investigación, pero es un precursor común de dicha acción. Esto es particularmente preocupante dado el informe reciente de CNN que sugiere que Elon Musk puede haber intervenido personalmente para evitar que se pongan salvaguardias sobre las imágenes que Grok podría generar.

No está claro si X ha realizado algún cambio técnico en el modelo de Grok, aunque se eliminó la pestaña de medios públicos para la cuenta X de Grok. En un comunicado, la empresa condenó explícitamente el uso de herramientas de inteligencia artificial para producir representaciones de actos sexuales infantiles. “Cualquiera que use Grok o fomente la creación de contenido ilegal enfrentará las mismas consecuencias que si subiera contenido ilegal”, publicó la cuenta X-Safety el 3 de enero, haciéndose eco de un tweet anterior de Elon Musk.

Mientras tanto, los reguladores de todo el mundo han emitido terribles advertencias. Ofcom de Gran Bretaña emitió un comunicado el lunes diciendo que estaba en contacto con xAI y “realizará una evaluación rápida para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación”. En una entrevista de radio el jueves, el primer ministro británico, Keir Starmer, calificó el fenómeno de “vergonzoso” y “repugnante” y dijo: “Ofcom tiene todo nuestro apoyo para tomar medidas al respecto”.

En una publicación en LinkedIn, la comisionada australiana de eSafety, Julie Inman-Grant, dijo que su oficina había recibido el doble de quejas relacionadas con Grok desde finales de 2025. Pero Inman-Grant no llegó a tomar medidas contra xAI y se limitó a decir: “Utilizaremos la gama de herramientas regulatorias a nuestra disposición para investigar y tomar las medidas adecuadas”.

Con diferencia, la mayor demanda que amenaza el mercado es la India, donde Grok fue objeto de una queja formal por parte de un miembro del parlamento. En enero, el regulador de comunicaciones de la India ordenó a MeitY X que investigara el problema y presentara un informe de “medidas tomadas” en un plazo de 72 horas, plazo que posteriormente se amplió 48 horas. Aunque se presentó un informe al regulador el 7 de enero, no está claro si MeitY estará satisfecho con la respuesta. De lo contrario, X podría perder su estatus de puerto seguro en la India, lo que podría significar una limitación potencialmente grave a su capacidad para hacer negocios dentro del país.