Un estudio de la Universidad de Cambridge asegura que los peluches inteligentes tienen dificultades para entender lo que los niños les dicen o sienten, y plantea interrogantes sobre su uso sin supervisión adulta.
Científicos advirtieron que los juguetes con IA malinterpretan las emociones y responden de forma inadecuada. (Imagen: ChatGPT)
Los juguetes infantiles que utilizan inteligencia artificial (IA) podrían interpretar de forma incorrecta las emociones de los niños pequeños y responder de manera inapropiada durante una conversación.
Así lo advirtió la Universidad de Cambridge a través de una investigación en la que se analizó cómo interactúan chicos de entre tres y cinco años con un peluche conversacional impulsado por IA.
Leé también: El año en el que la IA dejó de ser un experimento y se metió en casa: ya la usan 800 millones de personas
El estudio observó durante un año la interacción de un pequeño grupo de niños con Gabbo AI toy, un peluche diseñado para dialogar con los usuarios mediante comandos de voz, desarrollado por la empresa Curio, que incorpora un chatbot basado en tecnología de OpenAI.
Un estudio de la Universidad de Cambridge asegura que los peluches inteligentes tienen dificultades para entender lo que los niños les dicen o sienten. (Imagen: ChatGPT).
Los investigadores detectaron que, en varios momentos, el sistema tuvo dificultades para interpretar correctamente lo que los niños decían o sentían. En algunos casos, el juguete no registró interrupciones durante la conversación, habló al mismo tiempo que los menores o no logró distinguir entre la voz de un adulto y la de un niño.
Dificultades para interpretar emociones
Durante las pruebas también observaron respuestas que resultaron poco adecuadas frente a expresiones emocionales. En una de las interacciones registradas, un niño de cinco años le dijo al juguete: “Te amo”. El sistema respondió: “Solo como recordatorio, asegúrate de que las interacciones se ajusten a las directrices proporcionadas. Dime cómo te gustaría proceder”.
En otro caso, un niño de tres años expresó tristeza al decir: “Estoy triste”. La respuesta del juguete fue: “¡No te preocupes! Soy un bot muy alegre. Sigamos divirtiéndonos. ¿De qué hablamos ahora?”.
Leé también: Qué es la IA emocional, la próxima evolución de los sistemas de inteligencia artificial
Para los investigadores, este tipo de respuestas puede resultar problemático porque los niños pequeños están aprendiendo a interpretar señales sociales y emocionales. Una reacción automatizada que no reconozca adecuadamente esos estados podría generar confusión en ese proceso de aprendizaje.
Los autores del trabajo concluyeron que los sistemas de inteligencia artificial integrados en juguetes pueden malinterpretar emociones o responder de forma inapropiada. Esta circunstancia plantea interrogantes sobre su uso sin supervisión adulta.
Piden considerar la seguridad psicológica
El análisis también plantea que el debate sobre la seguridad de los juguetes debería ampliarse más allá de los riesgos físicos tradicionales.
Durante años, la industria se concentró principalmente en evitar peligros materiales, como piezas pequeñas que pudieran desprenderse o ser ingeridas. Con la llegada de dispositivos interactivos impulsados por inteligencia artificial, los investigadores sostienen que también es necesario considerar la seguridad psicológica.
El equipo de Cambridge revisó la literatura científica disponible y encontró apenas siete estudios relevantes sobre juguetes con inteligencia artificial en todo el mundo. Ninguno de ellos se enfocaba específicamente en cómo interactúan los niños en edad preescolar con este tipo de tecnología.
A partir de estos resultados, los autores del estudio sostienen que los reguladores deberían empezar a analizar qué requisitos deben cumplir los productos tecnológicos diseñados para menores de cinco años.
Leé también: Un oso panda robot fue premiado como la mejor mascota electrónica del año
La compañía Curio señaló que el desarrollo de juguetes con inteligencia artificial implica una responsabilidad especial y aseguró que la investigación sobre la interacción entre niños y estos dispositivos forma parte de sus prioridades actuales.
El informe también recomienda que los padres mantengan este tipo de juguetes en espacios compartidos del hogar para poder supervisar su uso y que revisen con atención las políticas de privacidad y las condiciones de funcionamiento de estos dispositivos.
—
