Meta ya no permitirá que los adolescentes conversen con sus personajes de chatbot de IA en su forma actual. La compañía anunció el viernes que “detendría temporalmente el acceso de los adolescentes a los personajes de IA existentes en todo el mundo”.
La pausa se produce meses después de que Meta introdujera controles parentales centrados en chatbots luego de informes de que algunos de los chatbots de personajes de Meta tenían conversaciones sexuales y otras interacciones alarmantes con adolescentes. Reuters informó un documento de metapolítica interna que decía que a los chatbots se les permitía tener conversaciones “sensuales” con usuarios menores de edad. Meta dijo más tarde que la redacción era “incorrecta y contraria a nuestras políticas”. La compañía anunció en agosto que volvería a entrenar a sus chatbots de personajes para agregar “barandillas como precaución adicional” que evitarían que los adolescentes hablaran sobre autolesiones, trastornos alimentarios y suicidio.
Ahora Meta dice que bloqueará el acceso de los adolescentes a cualquiera de sus chatbots de personajes, independientemente de su configuración de control parental, hasta que “la experiencia actualizada esté lista”. El cambio, que comenzará “en las próximas semanas”, se aplica a las personas con cuentas de adolescentes, “así como a las personas que afirman ser adultos pero que sospechamos que son adolescentes según nuestra tecnología de predicción de edad”. Los adolescentes aún pueden acceder al chatbot oficial Meta AI, que según la compañía ya tiene “protecciones apropiadas para su edad”.
Meta y otras empresas de inteligencia artificial que crean personajes “compañeros” están cada vez más bajo sospecha sobre los riesgos de seguridad que estos chatbots podrían representar para los jóvenes. Tanto la FTC como el Fiscal General de Texas han iniciado investigaciones sobre Meta y otras empresas en los últimos meses. El tema de los chatbots también se planteó en relación con una demanda de seguridad presentada por el Fiscal General de Nuevo México. Está previsto que comience un juicio a principios del próximo mes; Los abogados de Meta han tratado de excluir declaraciones relacionadas con los chatbots de IA de la empresa. cableado informó esta semana.
About The Author
