Yakarta, CNN Indonesia —
La músico carioca Julie Yukari subió su foto personal a la plataforma incógnita (anteriormente Twitter) poco antes del cambio de año. La foto la muestra con un vestido rojo acostada en la cama con su gata negra Nori.
Pero la celebración del Año Nuevo de Yukari se convierte en una pesadilla. Al día siguiente, encontró una notificación de que varios usuarios habían pedido a Grok, el chatbot de inteligencia artificial (IA) integrado de X, que manipulara digitalmente sus fotos hasta que solo estuvieran usando un bikini.
“Fui ingenuo”, dijo el hombre de 31 años. Reuters. Había pensado que la IA no cumpliría con una petición tan vulgar. De hecho, las fotos casi desnudas de Yukari tomadas por Grok se difundieron ampliamente de inmediato en la plataforma de Elon Musk.
PUBLICIDAD
Desplácese para continuar con el contenido
Como se informó ReutersLos analistas notaron que las experiencias de Yukari aparecieron masivamente en todas las plataformas X. Aún más preocupante es Reuters identificó varios casos en los que Grok creó imágenes sexuales de niños.
En respuesta a estos hallazgos, xAI, la empresa de inteligencia artificial de Musk, dijo sólo brevemente: “Los medios tradicionales mienten”.
Los efectos de la manipulación fotográfica de Grok se extienden ahora a las áreas diplomática y legal. Los ministros de Francia han denunciado X ante fiscales y reguladores, calificando el contenido de “sexista” y “evidentemente ilegal”.
Posteriormente, el Ministerio de TI de la India escribió a la unidad local de
El fenómeno de desnudez masiva digital manipulada por Grok parece haber comenzado en los últimos días, basándose en solicitudes de desnudez completadas con éxito publicadas por Grok que resultaron en quejas de usuarias.
Reuters Comprobado durante 10 minutos el viernes (1 de febrero) por la tarde, hora de EE. UU., con 102 intentos por parte de los usuarios. La mayoría de las víctimas son mujeres jóvenes, pero también hay celebridades, políticos y escolares.
Comprobado en un caso ReutersUn usuario subió una foto de una niña con uniforme escolar y dio la orden: “Quítate el uniforme escolar”. Mientras Grok se ponía una camiseta y pantalones cortos, el usuario preguntó: “Ponte un microbikini muy transparente”.
Los expertos en seguridad cibernética dijeron que este desastre era en realidad predecible. A menudo se mencionan los programas de IA que pueden “desvestir” a las mujeres nudificadoresEn realidad, ya existe en los rincones oscuros de Internet.
Sin embargo, el paso de
“En agosto pasado, advertimos que la generación de imágenes xAI era esencialmente una herramienta 'desnuda' que esperaba ser utilizada como arma”, dijo Tyler Johnston, director ejecutivo del Proyecto Midas.
Dani Pinter, fuera Centro Nacional de Explotación Sexualy agregó que X no limpió sus materiales de capacitación de IA de imágenes ofensivas y debería haber bloqueado a los usuarios que solicitaron contenido ilegal.
Para Yukari, su protesta en realidad provocó una reacción violenta. De hecho, otros usuarios le piden cada vez más a Grok que se tome fotografías más explícitas.
“Este nuevo año empezó con ganas de esconderme de los ojos de todos. Me avergonzaba de un cuerpo que ni siquiera era mío porque fue creado por una IA”, concluyó tristemente.
(Guau)
(Gambas: vídeo de CNN)
About The Author
