Yakarta, CNN Indonesia —
x redes sociales será investigado por las autoridades europeas, indias y malayas tras el chat Grok IA Permitir a los usuarios crear y compartir contenido sexual.
El regulador de medios británico, Ofcom, dijo que había solicitado información a X sobre el tema de Grok.
PUBLICIDAD
Desplácese para continuar con el contenido
El domingo, un legislador brasileño dijo en las redes sociales que había pedido al fiscal general y a la agencia de protección de datos del país que suspendieran el uso de Grok hasta que se completara la investigación.
La investigación se produce después de un aumento global en las últimas semanas en el uso de Grok para crear y compartir imágenes obscenas no consensuadas (NCII) generadas a partir de fotografías o vídeos de personas reales en respuesta a órdenes de los usuarios.
Estas inquietantes imágenes fueron ampliamente compartidas en X.
La compañía de Musk actualizó recientemente la función Grok Imagine, que permite generar imágenes más fácilmente a partir de comandos basados en texto en la plataforma.
Expertos en ciberseguridad y críticos de tecnología condenaron la difusión de imágenes y clips explotadores
En una conferencia de prensa el lunes (01/05), el portavoz de la Comisión Europea, Thomas Regnier, dijo que la agencia estaba “mirando muy seriamente” este asunto y que era muy consciente de que X y Grok ofrecen ahora un “modo nítido” con contenido sexual explícito, con algunos de los hallazgos basados en imágenes de niños.
“No es 'picante'. Esto es ilegal. Esto es terrible. Esto es repugnante. Así es como lo vemos y no tiene cabida en Europa”, dijo Regnier. CNBC.
A fines de la semana pasada, el Ministerio de Electrónica y Tecnología de la Información de la India también ordenó a X que llevara a cabo una “revisión técnica, de procedimiento y de gobernanza integral” de Grok. Las empresas tuvieron hasta el 5 de enero para cumplir con la orden.
Por otro lado, la Comisión de Comunicaciones y Multimedia de Malasia (MCMC) anunció durante el fin de semana que estaba investigando a X y que convocaría a representantes de la empresa.
“MCMC insta a todas las plataformas accesibles en Malasia a adoptar medidas de seguridad que cumplan con las leyes de Malasia y los estándares de seguridad en línea, particularmente en relación con funciones basadas en inteligencia artificial (IA), chatbots y herramientas de edición de imágenes”, dijo MCMC en una declaración escrita.
Mientras tanto, en Estados Unidos (EE.UU.), el Centro Nacional sobre Explotación Sexual (NCOSE) llamó al Departamento de Justicia (DOJ) y a la Comisión Federal de Comercio (FTC) a investigar el asunto.
Dani Pinter, director jurídico y director del Centro Legal NCOSE, dijo que no hay muchos precedentes legales relevantes para estas cuestiones específicas.
Sin embargo, explicó que la ley federal prohíbe la creación y distribución de material de abuso sexual infantil (CSAM), y esto puede aplicarse al contenido creado virtualmente “si representa a un niño identificable o muestra a un niño participando en una conducta sexualmente explícita”.
La legislación incluye la Ley Take It Down, que la Primera Dama Melania Trump patrocinó antes de su aprobación el año pasado.
Un portavoz del Departamento de Justicia de Estados Unidos dijo que se toma muy en serio el problema del abuso sexual infantil inducido por la IA.
“El Departamento de Justicia toma muy en serio el material de abuso sexual infantil generado por inteligencia artificial (IA) y tomará medidas enérgicas contra cualquier productor o propietario de dicho material. Seguimos buscando formas de racionalizar la aplicación de la ley en esta área para proteger a los niños y responsabilizar a quienes usan la tecnología para dañar a los grupos más vulnerables”, dijo en una declaración escrita. CNBC el lunes (1 de mayo).
La FTC se negó a hacer comentarios, mientras que XAI no hizo más comentarios que una respuesta automática.
La empresa de redes sociales de Musk hizo su primera declaración pública sobre el tema el sábado (1 de marzo) en una publicación en la cuenta oficial de X Safety.
“Tomamos medidas contra el contenido ilegal
Al día siguiente, un empleado de xAI llamado Ethan escribió en una publicación en X que Grok Imagine había sido actualizado, pero no mencionó ningún cambio relacionado con la capacidad de crear imágenes explícitas maliciosas.
(lom/dmi)
(Gambas: vídeo de CNN)
About The Author
