Cuando la IA Grok de Elon Musk despojó sin piedad a mujeres y niños

Este fenómeno ya no es sólo una brecha tecnológica. Sin embargo, las manifestaciones de violencia de género en el mundo real son posibles gracias a algoritmos sofisticados sin una supervisión adecuada.

Simplemente cargando una foto completamente vestida e ingresando un comando o mensaje simple, los usuarios de X ahora pueden transformar la imagen en imágenes lascivas.

La IA generativa de Grok, que se suponía era un asistente inteligente, cambió su función y se convirtió en una máquina de desnudez instantánea, dirigida a todos, desde celebridades hasta ciudadanos comunes y corrientes.

Víctima indefensa: “Me siento desnudo”

Este caso salió a la luz después de que un informe de investigación de Reuters y la BBC revelara miles de solicitudes públicas para que Grok alterara fotografías de mujeres para que llevaran bikinis transparentes o sin ropa alguna.

Julie Yukari, música de Río de Janeiro, es una de las víctimas de la brutalidad de este algoritmo. Fotos de su cuerpo fueron manipuladas y distribuidas en la plataforma sin permiso. “Fui ingenua”, dijo Julie a Reuters, admitiendo que nunca esperó que una herramienta de IA legítima cumpliera con los deseos inmorales de sus usuarios.

En Inglaterra, Samantha Smith, periodista independiente, sintió el profundo impacto psicológico. Se sintió deshumanizado y reducido a un estereotipo sexual. “Aunque no estaba posando en topless, la foto se veía y se sentía como yo. La violación se sintió tan real como si alguien hubiera compartido una foto real mía desnuda”, le dijo Samantha a la BBC.

Tyler Johnston del Proyecto Midas insiste en que esta catástrofe fue predicha. Desde agosto, ha estado advirtiendo a xAI (la compañía de inteligencia artificial de Musk) que su función de creación de imágenes es esencialmente una herramienta pornográfica a la espera de ser utilizada como arma. “Eso es exactamente lo que está pasando ahora”, enfatizó.