Meta anunció hoy que suspenderá el acceso de los adolescentes a sus personajes de IA en todas sus aplicaciones en todo el mundo. La compañía mencionó que no está abandonando sus esfuerzos pero quiere desarrollar una versión especial de un personaje de IA para adolescentes, dijo la compañía en exclusiva a TechCrunch.
La medida se produce días antes de que se escuche un caso contra Meta en Nuevo México, acusando a la compañía de no proteger a los niños de la explotación sexual en sus aplicaciones. Wired informó el jueves que Meta buscaba limitar los descubrimientos relacionados con el impacto de las redes sociales en la salud mental de los adolescentes, así como las historias.
En octubre, Meta introdujo nuevas funciones de control parental, centrándose en personalizar cómo los adolescentes interactúan con la IA en sus aplicaciones. Estas nuevas características, inspiradas en la clasificación de películas PG-13, limitaron el acceso de los adolescentes a ciertos temas como la violencia extrema, la desnudez y el uso gráfico de drogas.
Días después, la compañía también presentó una vista previa de los controles para personajes de IA, lo que permite a los padres y tutores monitorear temas y bloquear el acceso a personajes específicos. Meta dijo en ese momento que los padres también podrían desactivar por completo los chats con personajes de IA. Estas características estaban programadas para ser lanzadas este año, pero Meta ahora está adoptando un enfoque más estricto y desactivando por completo los personajes de IA. Meta dijo que los padres le dijeron que querían más información y control sobre las interacciones de sus hijos adolescentes con los personajes de IA y decidieron cortar el acceso.
“A partir de las próximas semanas, los adolescentes ya no podrán acceder a los personajes de IA en nuestras aplicaciones hasta que la experiencia actualizada esté disponible. Esto se aplica a cualquiera que nos haya dado un regalo de cumpleaños para adolescentes, así como a las personas que dicen ser adultos pero que sospechamos que son adolescentes según nuestra tecnología de predicción de edad”, dijo la compañía en una publicación de blog actualizada.
Meta agregó que los nuevos personajes adolescentes con IA tendrán controles parentales integrados en el lanzamiento final. La compañía dijo que los nuevos personajes brindarán respuestas apropiadas para su edad y se centrarán en temas como educación, deportes y pasatiempos.
Las empresas de redes sociales están bajo un estrecho escrutinio por parte de los reguladores. Aparte del caso de Nuevo México antes mencionado, Meta también se enfrenta a un juicio la próxima semana acusando a la plataforma de causar adicción a las redes sociales. Se espera que el director ejecutivo Mark Zuckerberg suba al estrado como testigo en este caso una vez que comience el juicio.
Además de las plataformas sociales, las empresas de inteligencia artificial también han tenido que cambiar su experiencia con los adolescentes después de ser demandadas por supuestamente ayudar e incitar a la autolesión. En octubre, Character.AI, la startup que permite a los usuarios chatear con varios avatares de IA, prohibió las conversaciones abiertas con chatbots para usuarios menores de 18 años. En noviembre, la startup anunció que crearía historias interactivas para niños. En los últimos meses, OpenAI ha agregado nuevas reglas de seguridad para jóvenes a ChatGPT y también ha comenzado a predecir la edad de un usuario para aplicar restricciones de contenido.
About The Author
