Meta anunció hoy que suspenderá el acceso de los adolescentes a sus personajes de IA en todas sus aplicaciones en todo el mundo. La compañía mencionó que no está abandonando sus esfuerzos pero quiere desarrollar una versión actualizada de personajes de IA para adolescentes, dijo la compañía en exclusiva a TechCrunch.
La medida se produce días antes de que se escuche un caso contra Meta en Nuevo México, acusando a la compañía de no hacer esfuerzos para proteger a los niños de la explotación sexual en sus aplicaciones. Wired informó el jueves que Meta estaba tratando de limitar los descubrimientos relacionados con el impacto de las redes sociales en la salud mental de los adolescentes.
En octubre, la compañía presentó una vista previa de los controles parentales para personajes de IA, lo que permite a los padres y tutores monitorear temas y bloquear el acceso a personajes específicos. Meta dijo que los padres pueden desactivar por completo los chats con personajes de IA. Estas funciones estaban programadas para lanzarse este año, pero la compañía ahora está desactivando por completo los personajes de IA para adolescentes y actualizando los personajes de IA a una versión más nueva.
Meta dijo que los padres le dijeron que querían tener más conocimiento y control sobre las interacciones de sus hijos adolescentes con los personajes de IA, razón por la cual decidió hacer estos cambios.
La compañía está tomando medidas enérgicas contra el acceso de los adolescentes al contenido de IA en sus aplicaciones. También en octubre, Meta lanzó controles parentales en Instagram, centrándose en personalizar cómo los adolescentes interactúan con la IA en sus aplicaciones. Estas características, inspiradas en la clasificación de películas PG-13, limitaron el acceso de los adolescentes a ciertos temas como la violencia extrema, la desnudez y el uso gráfico de drogas.
“A partir de las próximas semanas, los adolescentes ya no podrán acceder a los personajes de IA en nuestras aplicaciones hasta que la experiencia actualizada esté disponible. Esto se aplica a cualquiera que nos haya dado un regalo de cumpleaños para adolescentes, así como a las personas que dicen ser adultos pero que sospechamos que son adolescentes según nuestra tecnología de predicción de edad”, dijo la compañía en una publicación de blog actualizada.
Meta agregó que los nuevos personajes de IA tendrán controles parentales integrados en el lanzamiento. La compañía dijo que los nuevos personajes brindarán respuestas apropiadas para su edad y se centrarán en temas como educación, deportes y pasatiempos.
Las empresas de redes sociales están bajo un estrecho escrutinio por parte de los reguladores. Además del caso de Nuevo México antes mencionado, Meta también se enfrenta a un juicio la próxima semana en el que se acusa a la plataforma de provocar adicción a las redes sociales. Se espera que el director ejecutivo Mark Zuckerberg suba al estrado como testigo en este caso una vez que comience el juicio.
Además de las plataformas sociales, las empresas de inteligencia artificial también han tenido que cambiar su experiencia con los adolescentes después de ser demandadas por supuestamente ayudar e incitar a la autolesión. En octubre, Character.AI, la startup que permite a los usuarios chatear con varios avatares de IA, prohibió las conversaciones abiertas con chatbots para usuarios menores de 18 años. En noviembre, la startup anunció que crearía historias interactivas para niños. En los últimos meses, OpenAI agregó nuevas reglas de seguridad para jóvenes a ChatGPT y comenzó a predecir la edad de un usuario para aplicar restricciones de contenido.
Corrección: esta publicación se actualizó para aclarar que la nueva versión de los personajes de IA será accesible para todos en el momento del lanzamiento, no solo para los adolescentes. Incluirá controles parentales.
About The Author
