Indonesia y Malasia bloquean a Grok por deepfakes sexualizados y no consensuados

Funcionarios de Indonesia y Malasia han dicho que están bloqueando temporalmente el acceso al chatbot Grok de xAI.

Estas son las medidas más agresivas hasta el momento por parte de funcionarios gubernamentales en respuesta a una avalancha de imágenes sexualizadas generadas por IA (que a menudo representan mujeres y menores reales y a veces representan violencia) que Grok publicó en respuesta a solicitudes de usuarios de la red social X. (X y xAI son parte de la misma empresa).

En una declaración compartida con The Guardian y otras publicaciones el sábado, el Ministro Digital y de Comunicaciones de Indonesia, Meutya Hafid, dijo: “El gobierno considera que la práctica de deepfakes sexuales no consensuales es una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”.

Según se informa, el ministerio también convocó a funcionarios de X para discutir el tema.

El New York Times dijo que el gobierno de Malasia anunció una prohibición similar el domingo.

Las respuestas mixtas del gobierno la semana pasada incluyeron una directiva del Ministerio de TI de la India a xAI para que tomara medidas para evitar que Grok genere contenido obsceno, así como una directiva de la Comisión Europea a la empresa para preservar todos los documentos relacionados con Grok, lo que podría sentar las bases para una investigación.

En el Reino Unido, el regulador de comunicaciones Ofcom ha dicho que “realizará una evaluación rápida para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación”. El primer ministro Keir Starmer dijo en una entrevista que Ofcom contaba con su “pleno apoyo para tomar medidas”.

Y mientras en Estados Unidos la administración Trump parece guardar silencio sobre el tema (el director ejecutivo de xAI, Elon Musk, es un importante donante de Trump y dirigió el controvertido Departamento de Eficiencia Gubernamental el año pasado), los senadores demócratas han pedido a Apple y Google que eliminen X de sus tiendas de aplicaciones.

xAI inicialmente respondió con una disculpa aparentemente en primera persona en la cuenta de Grok, reconociendo que una publicación “violó los estándares éticos y posiblemente las leyes estadounidenses” con respecto al material de abuso sexual infantil. Posteriormente, la función de generación de imágenes con IA se extendió a los suscriptores de pago.

En respuesta a una publicación que preguntaba por qué el gobierno del Reino Unido no está tomando medidas enérgicas contra otras herramientas de imágenes de IA, Musk escribió: “Quieren todas las excusas para la censura”.

Esta publicación se ha actualizado para reflejar la prohibición de Grok en Malasia.