Aunque X le ha quitado a Grok la capacidad de crear imágenes de desnudos digitales no consensuales en la plataforma social, la aplicación independiente de Grok es una historia diferente. Según los informes, se siguen produciendo deepfakes “desnudos” de personas reales. Y ahora Ashley St. Clair, estratega política conservadora y madre de uno de los 14 hijos de Elon Musk, ha demandado a xAI por imágenes sexualizadas no consensuadas de ella que supuestamente Grok produjo.
En el expediente judicial, St. Clair acusó al chatbot Grok de xAI de crear y distribuir deepfakes de ella “cuando era niña, vestida con un bikini de hilo y como adulta en poses sexualmente explícitas, cubierta de semen o usando solo hilo de bikini”. En algunos casos, el chatbot supuestamente produjo deepfakes de St. Clair en bikini basándose en una foto de ella cuando tenía 14 años. “La gente me ha tomado fotos cuando era niña y estoy desnuda. En una me tienen desnuda y agachada, y al fondo se ve la mochila de mi hijo que lleva”, dijo.
“También veo imágenes de mujeres magulladas, golpeadas, atadas y mutiladas”, dijo St. Clair. el guardián. “Antes estos bichos raros tenían que ir a las profundidades oscuras de Internet, y ahora se puede encontrar en una aplicación de redes sociales convencional”.
St. Clair dijo que después de informar sobre las imágenes a X, la plataforma social respondió que el contenido no violaba ninguna política. Además, afirma que X dejó las imágenes publicadas hasta siete días después de haberlas denunciado. St. Clair dijo que xAI luego tomó represalias contra ella creando aún más deepfakes de ella desnuda digitalmente, “convirtiendo así (a St. Clair) en el hazmerreír de la plataforma de redes sociales”.
Acusó a la compañía de revocar su suscripción X Premium, su marca de verificación y su capacidad para monetizar el contenido en la plataforma. “xAI también le prohibió recomprar Premium”, afirma el expediente judicial de St. Clair.
Sin embargo, el miércoles, se informó que la aplicación independiente Grok continúa desnudando y sexualizando fotos cuando se le pide que lo haga.
Ni Apple ni Google han eliminado la aplicación Grok a pesar de violaciones explícitas de la política. (Anna Moneymaker vía Getty Images)
Apple y Google no han hecho, bueno, absolutamente nada. A pesar de varias semanas de indignación por los deepfakes (y de una carta abierta de 28 grupos de defensa), ninguna de las compañías ha eliminado las aplicaciones X o Grok de sus tiendas de aplicaciones. Tanto App Store como Play Store tienen políticas que prohíben específicamente las aplicaciones que generan dicho contenido.
Ni Apple ni Google respondieron a múltiples solicitudes de comentarios de Engadget. Esto incluye un correo electrónico de seguimiento enviado el viernes sobre la aplicación Grok que continúa publicando fotos de mujeres reales y otras personas “desnudas”.
Si bien Apple y Google no han actuado, muchos gobiernos han hecho lo contrario. El lunes, Malasia e Indonesia prohibieron Grok. El mismo día, el regulador británico Ofcom abrió una investigación formal sobre X. California abrió una el miércoles. Después del revés, el Senado de Estados Unidos incluso aprobó la Ley de Desafío por segunda vez.
“Si eres mujer, no puedes publicar una foto ni hablar o corres el riesgo de sufrir abuso”, dijo St. Clair. el guardián. “Es peligroso, y creo que es intencional. Se supone que debes alimentar a la humanidad y las mentes de la IA, y si estás haciendo cosas que impactan particularmente a las mujeres y ellas no quieren participar porque están siendo atacadas, eso significa que la IA estará intrínsecamente sesgada”.
Hablando de Musk y su equipo, añadió: “Estas personas creen que están por encima de la ley porque lo están. No creen que se meterán en problemas, creen que no habrá consecuencias”.
About The Author
