El fiscal general de California, Rob Bonta, envió una carta de cese y desistimiento a xAI, pocos días después de que su oficina iniciara una investigación oficial sobre la empresa por informes de que Grok participó en tratos no consensuados.
Si recuerdas, xAI y Grok fueron criticados por tomar fotografías de personas reales a pedido de usuarios aleatorios y vestirlas con ropa reveladora como bikinis.
La oficina de Bonta exige que xAI deje de crear “material sexualmente explícito digitalizado” si la persona representada no ha dado su consentimiento o si es menor de edad. También exigió que xAI dejara de “facilitar o apoyar la creación o publicación de material digitalizado y sexualmente explícito” por parte de personas sin consentimiento y menores de 18 años.
X cambió sus políticas después de que estalló el problema, impidiendo que la cuenta de Grok convirtiera imágenes de personas reales en ropa reveladora. xAI también movió las capacidades de generación de imágenes de Grok detrás de un muro de pago y bloqueó geográficamente la capacidad de los usuarios de pago para editar imágenes de personas reales en bikini, pero solo en regiones donde es ilegal.
En su anuncio, Bonta dijo que xAI ha desarrollado un “modo picante” para que Grok genere contenido explícito y lo utilice como punto de marketing. El fiscal general de California también dijo que las imágenes sexuales generadas por Grok se utilizaron para acosar tanto a figuras públicas como a usuarios comunes y corrientes. “Lo más alarmante es que los informes de noticias han descrito el uso de Grok para alterar imágenes de niños para representarlos con ropa mínima y en situaciones sexuales”, decía el anuncio de Bonta.
“Las acciones anteriores violan la ley de California, incluida la Sección 1708.86 del Código Civil de California, las Secciones 311 y siguientes del Código Penal de California y 647(j)(4), y la Sección 17200 del Código de Negocios y Profesiones de California”, dijo. El Departamento Correccional del estado espera recibir noticias de xAI en los próximos cinco días sobre los pasos que está tomando para abordar estos problemas.
About The Author
