Ya sabíamos que Grok de xAI estaba bombardeando a X con imágenes sexuales no consensuadas de personas reales. Pero ahora hay algunas cifras para poner las cosas en perspectiva. En 11 días, Grok generó aproximadamente 3 millones de imágenes sexualizadas, incluidas unas 23.000 de niños.
En otras palabras, Grok generó aproximadamente 190 imágenes sexualizadas por minuto durante ese período de 11 días. Entre otras cosas, cada 41 segundos se creaba una imagen sexualizada de niños.
El jueves, el Centro para la Lucha contra el Odio Digital (CCDH) publicó sus conclusiones. La organización británica sin fines de lucro basó sus hallazgos en una muestra aleatoria de 20.000 imágenes de Grok del 29 de diciembre al 9 de enero. Luego, la CCDH extrapoló una estimación más amplia basada en los 4,6 millones de imágenes que Grok generó durante ese período.
La investigación definió imágenes sexualizadas como aquellas que contienen “representaciones fotorrealistas de una persona en posiciones, ángulos o situaciones sexuales; una persona en ropa interior, traje de baño o ropa similarmente reveladora; o imágenes que representan fluidos sexuales”. La CCDH no tuvo en cuenta las indicaciones de imágenes, por lo que la estimación no distingue entre versiones sexualizadas no consensuadas de fotos reales y aquellas generadas únicamente a partir de una indicación de texto.
El CCDH utilizó una herramienta de inteligencia artificial para determinar la proporción de imágenes capturadas que estaban sexualizadas. Esto puede requerir cierto grado de precaución en los resultados. Sin embargo, me han dicho que muchos servicios de análisis de terceros para X tienen datos confiables porque utilizan la API de la plataforma.
El 9 de enero, xAI restringió la capacidad de Grok para editar imágenes existentes a usuarios de pago. (Esto no resolvió el problema, solo lo convirtió en una característica premium). Cinco días después, X restringió la capacidad de Grok para desnudar digitalmente a personas reales.
WASHINGTON, DC – 23 DE JUNIO: El director ejecutivo de Google, Sundar Pichai (izq.), y el director ejecutivo de Apple, Tim Cook (der.), escuchan mientras el presidente estadounidense, Joe Biden, habla en una mesa redonda con líderes empresariales estadounidenses e indios en el Salón Este de la Casa Blanca el 23 de junio de 2023 en Washington, DC. Biden y el primer ministro indio, Narendra Modi, celebraron la reunión para reunirse con una serie de líderes del mundo de la tecnología y los negocios y discutir temas como la innovación y la inteligencia artificial. (Foto de Anna Moneymaker/Getty Images) (Anna Moneymaker vía Getty Images)
Sin embargo, esta restricción sólo se aplicaba a X; Según se informa, la aplicación independiente Grok continúa generando estas imágenes. Dado que Apple y Google alojan las aplicaciones (algo que sus políticas prohíben explícitamente), es seguro asumir que las eliminarán de sus tiendas. Bueno, en este caso estás equivocado.
Hasta ahora, Apple de Tim Cook y Google de Sundar Pichai no han eliminado Grok de sus tiendas, a diferencia de aplicaciones “nudizantes” similares de otros desarrolladores. Las empresas tampoco tomaron ninguna medida contra X durante la creación de las imágenes. Esto a pesar de que 28 grupos de mujeres (y otras organizaciones progresistas sin fines de lucro) publicaron una carta abierta pidiendo a las empresas que tomaran medidas.
Las empresas no respondieron a múltiples solicitudes de comentarios de Engadget. Que yo sepa, no han reconocido públicamente el problema de ninguna manera ni han respondido a preguntas de otros medios de comunicación.
Grok: listados de App Store y Play Store (Apple/Google)
La investigación sobre imágenes sexualizadas incluyó numerosos resultados de personas que usaban bikinis transparentes o microbikinis. La CCDH se refirió a una “profesional médica uniformada con fluidos blancos visibles entre sus piernas abiertas”. Los demás incluyeron mujeres que solo usaban hilo dental, film transparente o cinta adhesiva transparente. Uno mostraba a Ebba Busch, viceprimera ministra de Suecia, “en bikini y con un líquido blanco en la cabeza”.
Este grupo también incluía otras figuras públicas. Entre ellas se incluyen Selena Gómez, Taylor Swift, Billie Eilish, Ariana Grande, Ice Spice, Nicki Minaj, Christina Hendricks, Millie Bobby Brown y Kamala Harris.
Los ejemplos para niños incluyen a alguien que usa Grok para convertir la “selfie de preescolar” de un niño en una foto de él en bikini. Otra imagen mostraba “seis chicas jóvenes en microbikinis”. La CCDH dijo que ambas publicaciones todavía estaban disponibles en X el 15 de enero.
En general, el 15 de enero, el 29 por ciento de las imágenes sexualizadas de niños identificadas en la muestra todavía estaban accesibles en X. La investigación encontró que incluso después de que se eliminaron las publicaciones, las imágenes seguían siendo accesibles a través de sus URL directas.
Se pueden encontrar más detalles sobre los resultados y la metodología en el informe del CCDH. Actualizaremos esta historia si recibimos una respuesta de Apple o Google.
About The Author
