A medida que aumentan las preocupaciones sobre el impacto de la IA en los jóvenes, OpenAI ha introducido una función de “predicción de edad” en ChatGPT para ayudar a identificar a los menores y establecer límites de contenido significativos para sus conversaciones.
OpenAI ha sido fuertemente criticado en los últimos años por el impacto que ChatGPT puede tener en los niños. Se han relacionado varios suicidios de adolescentes con el chatbot y, al igual que otros proveedores de inteligencia artificial, OpenAI ha sido criticado por permitir que ChatGPT discuta temas sexuales con usuarios jóvenes. El pasado mes de abril, la compañía tuvo que corregir un error que permitía a su chatbot generar contenido erótico para usuarios menores de 18 años.
La compañía ha estado trabajando en su problema con usuarios menores de edad durante algún tiempo, y su nueva función de Predicción de edad simplemente se suma a las protecciones que ya tiene implementadas. La nueva característica utiliza un algoritmo de IA que califica las cuentas de usuario según ciertas “señales de comportamiento y a nivel de cuenta” para identificar a los usuarios jóvenes, dijo OpenAI en una publicación de blog el martes.
Estas “señales” incluyen cosas como la edad indicada del usuario, cuánto tiempo ha existido una cuenta y las horas del día en que la cuenta suele estar activa, dijo la compañía. La compañía ya cuenta con filtros de contenido diseñados para descartar discusiones sobre sexo, violencia y otros temas potencialmente problemáticos para usuarios menores de 18 años. Si el mecanismo de predicción de edad identifica una cuenta como menor de 18 años, estos filtros se aplican automáticamente.
Si un usuario es identificado erróneamente como menor, existe una manera de recuperar su cuenta “adulta”. Puedes enviar una selfie al socio de verificación de identidad de OpenAI, Persona, según OpenAI.
About The Author
