Indonesia bloquea a Grok por deepfakes sexualizados y no consensuados

Los funcionarios indonesios anunciaron el sábado que estaban bloqueando temporalmente el acceso al chatbot Grok de xAI.

Esta es una de las medidas más agresivas hasta el momento por parte de funcionarios gubernamentales en respuesta a una avalancha de imágenes sexualizadas generadas por IA (que a menudo representan mujeres y menores reales y a veces representan agresiones y abusos) que Grok publicó en respuesta a las solicitudes de los usuarios de la red social X. (X y xAI son parte de la misma empresa).

En una declaración compartida con The Guardian y otras publicaciones, el Ministro Digital y de Comunicaciones de Indonesia, Meutya Hafid, dijo: “El gobierno considera que la práctica de deepfakes sexuales no consensuales es una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”.

Según se informa, el ministerio también convocó a funcionarios de X para discutir el tema.

Las respuestas mixtas del gobierno la semana pasada incluyeron una directiva del Ministerio de TI de la India a xAI para que tomara medidas para evitar que Grok genere contenido obsceno, así como una directiva de la Comisión Europea a la empresa para preservar todos los documentos relacionados con Grok, lo que podría sentar las bases para una investigación.

En el Reino Unido, el regulador de comunicaciones Ofcom ha dicho que “realizará una evaluación rápida para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación”. El primer ministro Keir Starmer dijo en una entrevista que Ofcom contaba con su “pleno apoyo para tomar medidas”.

Y mientras en Estados Unidos la administración Trump parece guardar silencio sobre el tema (el director ejecutivo de xAI, Elon Musk, es un importante donante de Trump y dirigió el controvertido Departamento de Eficiencia Gubernamental el año pasado), los senadores demócratas han pedido a Apple y Google que eliminen X de sus tiendas de aplicaciones.

xAI inicialmente respondió con una disculpa aparentemente en primera persona en la cuenta de Grok, reconociendo que una publicación “violó los estándares éticos y posiblemente las leyes estadounidenses” con respecto al material de abuso sexual infantil. Posteriormente, la función de generación de imágenes con IA se extendió a los suscriptores de pago.

En respuesta a una publicación que preguntaba por qué el gobierno del Reino Unido no está tomando medidas enérgicas contra otras herramientas de imágenes de IA, Musk escribió: “Quieren todas las excusas para la censura”.