India ordena a X de Musk que procese a Grok por contenido de IA 'obsceno'

India ha encargado el producto de Elon Musk

El viernes, el Ministerio de TI de la India emitió la orden, el ministerio de Musk también le dio a la plataforma de redes sociales 72 horas para presentar un informe de acciones tomadas que detalla las medidas que el ministerio ha tomado para evitar alojar o difundir contenido considerado “obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o prohibido por la ley”.

La orden, revisada por TechCrunch, advirtió que el incumplimiento podría poner en peligro las protecciones de “puerto seguro” de X: inmunidad legal de responsabilidad por el contenido generado por el usuario según la ley india.

La medida de la India surge tras las preocupaciones de los usuarios que informaron ejemplos de que Grok había sido dirigido a alterar imágenes de personas, particularmente mujeres, para que pareciera que llevaban bikinis, lo que llevó a una queja formal de la parlamentaria india Priyanka Chaturvedi. Por otra parte, informes recientes han señalado casos en los que el chatbot de IA generó imágenes sexualizadas que involucraban a menores. X ya había admitido el viernes que el problema se debía a fallos en las medidas de seguridad. Estas imágenes fueron eliminadas posteriormente.

Sin embargo, TechCrunch señaló que las imágenes creadas con Grok en las que mujeres alteradas por IA para que parecieran usar bikinis permanecían accesibles en X en el momento de la publicación.

El último pedido llega pocos días después de que el Ministerio de TI de la India emitiera el lunes un aviso más amplio para las plataformas de redes sociales, que también fue revisado por TechCrunch. Recuerda que el cumplimiento de las leyes locales sobre contenido obsceno y sexualmente explícito es un requisito previo para mantener la inmunidad legal de responsabilidad por el material generado por el usuario. El aviso instaba a las empresas a fortalecer sus medidas de seguridad interna y advertía que el incumplimiento podría dar lugar a acciones legales en virtud de las leyes penales y de TI de la India.

“Se reitera que el incumplimiento de los requisitos anteriores debe tomarse en serio y puede, sin previo aviso, tener consecuencias legales estrictas contra su plataforma, sus controladores y los usuarios de la plataforma que violen la ley”, advierte la orden.

El gobierno indio dijo que el incumplimiento podría dar lugar a cargos contra X en virtud de la Ley de TI y las leyes penales de la India.

India, uno de los mercados digitales más grandes del mundo, se ha convertido en un caso crítico de prueba de hasta qué punto los gobiernos están dispuestos a responsabilizar a las plataformas por el contenido generado por IA. Cualquier endurecimiento de la aplicación de la ley en el país podría tener implicaciones de gran alcance para las empresas tecnológicas globales que operan en múltiples jurisdicciones.

La orden llega en un momento en que los usuarios de X utilizan cada vez más Grok de Musk para verificar hechos en tiempo real y comentar eventos noticiosos, lo que hace que sus resultados sean más visibles (y políticamente sensibles) que los de las herramientas de inteligencia artificial independientes.

X y xAI no respondieron de inmediato a las solicitudes de comentarios sobre la orden del gobierno indio.