Google y Character.AI que tienen trabajaron juntos en chatbots de IAAcordaron resolver cinco demandas en cuatro estados que involucran a menores perjudicados por interacciones con chatbots Character.AI.
Aunque el acuerdo aún no se ha cerrado, implicaría resolver casos en Florida, Texas, Nueva York y Colorado sobre el uso de servicios de chatbot. En un caso de alto perfil, un adolescente de Orlando de 14 años, Sewell Setzer III, se suicidó en febrero de 2024 después de interactuar con uno de los chatbots de Character.AI. La madre del adolescente, Megan L. García, presentó una demanda en un Tribunal de Distrito de Estados Unidos en Florida ese mismo año.
No se pierda nuestro contenido técnico imparcial y revisiones de laboratorio. Añadir CNET como fuente preferida de Google.
Un representante de Google no respondió de inmediato a las solicitudes de comentarios. Un representante de Character.AI se refirió a presentaciones gubernamentales pero no pudo comentar sobre los acuerdos.
El año pasado se creó Character.AI. grandes cambios en su plataformaque prohíbe a menores de 18 años tener chats abiertos con sus chatbots. En cambio, los adolescentes pueden Crea historias con personajes de IA con las herramientas de la empresa.
Antes de estos cambios el año pasado, el director ejecutivo de Character.AI, Karandeep Anand, dijo a CNET: “Hay una mejor manera de atender a los usuarios adolescentes… No tiene por qué verse como un chatbot”.
La empresa también comenzó a utilizar software de detección de edad para determinar quién tiene 18 años o más.
Google y Character.AI no son los únicos gigantes tecnológicos que han enfrentado críticas y acciones legales por los chatbots y sus interacciones con niños. OpenAI también ha realizado cambios en su popular ChatGPT a la luz de esto. Demandas por suicidio y abuso infantil.
(Divulgación: Ziff Davis, la empresa matriz de CNET, presentó una demanda contra OpenAI en abril, alegando que la empresa violó los derechos de autor de Ziff Davis al entrenar y operar sus sistemas de IA).
About The Author
