Malasia e Indonesia son los primeros países en bloquear a Grok, alegando que el chatbot es de Prensa asociada Informes. Mientras tanto, el regulador de medios del Reino Unido, Ofcom, ha iniciado una investigación formal sobre X en virtud de la Ley de Seguridad en Línea.
“El gobierno considera que los deepfakes sexuales no consentidos son una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”, dijo en un comunicado el Ministro de Comunicaciones y Asuntos Digitales de Indonesia, Meutya Hafid. Los funcionarios del país dijeron que los hallazgos iniciales mostraban que Grok carecía de controles efectivos para evitar que los usuarios crearan y compartieran deepfakes sexualmente explícitos basados en fotografías de residentes indonesios. El director general de vigilancia del espacio digital del país, Alexander Sabar, afirmó que la creación de deepfakes podría violar los derechos de imagen y de personalidad de las personas si las fotos se comparten o manipulan sin consentimiento, añadiendo que esto podría provocar daños reputacionales, sociales y psicológicos.
La Comisión de Comunicaciones y Multimedia de Malasia citó el “abuso repetido” de Grok para generar deepfakes explícitos y no consensuados que involucran a algunas mujeres y niños. El regulador dijo que Grok permanecerá bloqueado en el país hasta que X Corp y su empresa matriz xAI tengan salvaguardias suficientemente sólidas.
La investigación de Ofcom se centrará en si estos incluyen si X toma medidas apropiadas para evitar que sus usuarios del Reino Unido vean contenido ilegal “prioritario” como CSAM e imágenes íntimas no consensuadas; si la plataforma elimina rápidamente el contenido ilegal después de tener conocimiento de ello; y si X realizó una evaluación de riesgos actualizada antes de realizar “cambios significativos” en la plataforma. La investigación también examinará si
El regulador dijo que se puso en contacto con X el 5 de enero y recibió una respuesta el 9 de enero. Ofcom está llevando a cabo urgentemente una “evaluación acelerada de la evidencia disponible” y agregó que le pidió a xAI una “aclaración urgente” sobre las medidas que la compañía está tomando para proteger a los usuarios del Reino Unido.
“Los informes de que Grok está siendo utilizado para crear y compartir imágenes íntimas ilegales y no consensuadas y material de abuso sexual infantil en X son profundamente preocupantes”, dijo un portavoz de Ofcom. “Las plataformas deben proteger a las personas en el Reino Unido del contenido que es ilegal en el Reino Unido y no dudaremos en investigar si sospechamos que las empresas no cumplen con sus deberes, particularmente cuando existe un riesgo de daño a los niños. Avanzaremos en esta investigación como una prioridad máxima, al mismo tiempo que nos aseguramos de seguir el debido proceso. Como autoridad independiente de aplicación de la seguridad en línea del Reino Unido, es importante que nos aseguremos de que nuestras investigaciones sean legalmente sólidas y se juzguen de manera justa”.
Si Ofcom cree que una empresa ha infringido la ley, puede “exigir a las plataformas que tomen ciertas medidas para cumplir o reparar el daño causado por la infracción”. El regulador puede imponer multas adicionales de hasta 18 millones de libras (24,3 millones de dólares) o el 10 por ciento de las ventas globales “calificadas”, lo que sea mayor. También puede solicitar una orden judicial para prohibir a los proveedores de pagos o a los anunciantes trabajar con una plataforma, o para exigir a los proveedores de servicios de Internet que bloqueen un sitio web en el Reino Unido. El gobierno del Reino Unido ha dicho que apoyaría cualquier acción que Ofcom emprenda contra X.
Los informes del fin de semana sugirieron que el Reino Unido había estado en conversaciones con aliados sobre una respuesta coordinada a los deepfakes generados por Grok. Los reguladores de otros países, incluidos India y la Unión Europea, también están investigando X.
La semana pasada, Grok comenzó a decirles a los usuarios de X que sus herramientas de creación y edición de imágenes estaban limitadas a suscriptores pagos. Pero a partir del lunes, todavía era posible que los usuarios que no pagaban generaran imágenes a través de la pestaña Grok en el sitio web y la aplicación X.
About The Author
