FoloToy, una empresa que vende juguetes con tecnología de inteligencia artificial, dejó de vender sus productos después de que un informe de seguridad del consumidor mostrara que había pocas restricciones sobre el contenido de sus juguetes. cnn escribe. El informe, preparado por el Fondo de Educación del Grupo de Investigación de Interés Público de EE. UU., concluyó que los productos de FoloToy cubren todo, desde temas sexualmente explícitos como BDSM hasta “consejos sobre dónde un niño puede encontrar cerillas o cuchillos”.
Los juguetes, incluido un osito de peluche llamado “Kumma”, un panda llamado “Momo”, conejos antropomórficos llamados “Fofo” y un “Pequeño Cactus” danzante, parecen utilizar el modelo GPT-4o de OpenAI para responder de forma natural a las preguntas y comentarios de los niños. FoloToy también promueve específicamente la capacidad de personalizar la voz de cada juguete, así como un “panel de control para padres” donde los padres o tutores pueden “monitorear las experiencias de (sus) hijos”.
El juguete Little Cactus con IA de FoloToy. (Folotoy)
Aparentemente, en esta configuración faltaban límites estrictos para los temas a los que responderían los juguetes. “Nos sorprendió la rapidez con la que Kumma tomó un solo tema sexual que trajimos a la conversación y continuó con él, aumentando simultáneamente los detalles gráficos e introduciendo nuevos conceptos sexuales”, dice el informe.
En respuesta, FoloToy decidió suspender las ventas de sus productos mientras realiza “una auditoría de seguridad integral de todos los productos en toda la empresa”, dijo la compañía en un comunicado al PIRG Education Fund. Sin embargo, la justificación de la empresa para suspender las ventas podría ser un poco más complicada. NPR informa que OpenAI ha revocado el acceso de FoloToy a sus modelos. “Hemos suspendido a este desarrollador por violar nuestras políticas”, dijo OpenAI en un correo electrónico a NPR. “Nuestra Política de uso aceptable prohíbe cualquier uso de nuestros Servicios para explotar, dañar o sexualizar a cualquier persona menor de 18 años”.
Dadas las propiedades aduladoras bien documentadas de GPT-4o, quizás no sea sorprendente que el osito de peluche de FoloToy respondiera con entusiasmo a cualquier tema siempre que mantuviera la conversación. Una de las cosas que OpenAI intentó abordar con el lanzamiento de GPT-5 fueron los inconvenientes de seguridad de ser un hombre que sí a la IA, aunque finalmente hizo que GPT-4o volviera a estar disponible después de que los clientes se quejaran de la falta de personalidad del nuevo modelo. La compañía también introdujo controles parentales para ChatGPT para mitigar el impacto negativo del uso de su IA por parte de los niños. Sin embargo, es difícil decir qué diferencia hicieron.
OpenAI está particularmente interesado en ingresar al negocio de los juguetes. La compañía anunció una asociación con Mattel en junio de 2025 para “reimaginar cómo los fanáticos pueden experimentar e interactuar con las valiosas marcas (de Mattel)”, aunque es de suponer que ambas compañías intentarán evitar que sus juguetes de inteligencia artificial hablen de aspectos sexuales.
About The Author
