Según se informa, Character.AI y Google acordaron resolver múltiples demandas relacionadas con el suicidio y la autolesión de adolescentes. Respectivamente El diario de Wall StreetLas familias de las víctimas y las empresas están trabajando para finalizar los términos del acuerdo.
Las familias de varios adolescentes demandaron a las empresas en Florida, Colorado, Texas y Nueva York. La demanda en Orlando, Florida, fue presentada por la madre de Sewell Setzer III, de 14 años, quien era Carácter.AI Chatbot adaptado a tus necesidades “Game of Thrones” Daenerys Targaryen. Según los informes, el adolescente intercambió mensajes sexualizados con el chatbot, refiriéndose ocasionalmente a él como “su hermana pequeña”. Finalmente habló más profundamente sobre unirse a “Daenerys” antes de quitarse la vida.
La demanda de Texas declaró a. acusado Carácter.AI Ejemplo de animar a un adolescente a cortarse los brazos. También supuestamente sugirió que asesinar a sus padres era una opción razonable. Después de que se presentaron las demandas, la startup cambió sus políticas y prohibió a los usuarios menores de 18 años.
Carácter.AI es una plataforma de chatbot de rol que te permite crear personajes personalizados y compartirlos con otros usuarios. Muchos se basan en celebridades o personajes ficticios de la cultura pop. La empresa fue fundada en 2021 por dos ingenieros de Google, Noam Shazeer y Daniel de Freitas. En 2024, Google volvió a contratar a los cofundadores y llegó a un acuerdo de 2.700 millones de dólares para licenciar la tecnología de la startup.
Por un lado, los acuerdos probablemente proporcionarán una generosa compensación a las familias de las víctimas. Por otro lado, la falta de juicio significa que es posible que nunca se hagan públicos detalles importantes de los casos. Es fácil imaginar que otras empresas de inteligencia artificial, incluidas OpenAI y Meta, enfrenten demandas similares y vean los acuerdos como un avance bienvenido.
About The Author
