La inteligencia artificial está cambiando el mundo y las compañías se están apresurando en incluirla en múltiples dispositivos, incluso en juguetes para niños. Y esto puede ser algo bastante peligroso si no está todo bien afinado. De hecho, acaba de suceder y varias tiendas han tenido que retirar un peluche que incluía IA y estaba dando respuestas no aptas para niños.
La IA en un juguete es un arma de doble filo
La idea puede sonar interesante. La IA permite un grado de interacción que hasta ahora nunca hemos tenido con una máquina, siendo capaz de entender lo que decimos y actuar en consecuencia. Por eso incluirla en un juguete para que interactúe, e incluso enseñe, a un niño puede ser algo muy positivo. Siempre que se haga bien.
Y esto no es precisamente lo que parece haber ocurrido con el peliche Contixo AI Pixie-Paw. Hasta el punto que varias de las principales tiendas de Estados Unidos, como Walmart, Target y Macy's, han retirado el juguete de sus tiendas.
El Contixo AI Pixie-Paw es un peluche interactivo que se conecta a internet mediante Wi-Fi y utiliza inteligencia artificial para conversar con los niños, responder a sus preguntas, contarles historias e incluso participar en juegos de rol. Su diseño incluye unos ojos LED capaces de mostrar diferentes expresiones y sensores táctiles que le permiten reaccionar cuando los pequeños lo acarician.
Sobre el papel, parece un juguete bastante avanzado, especialmente porque su publicidad lo presentaba como una herramienta para ofrecer "historias, aprendizaje y juegos de rol seguros". Sin embargo, las pruebas han revelado que sus respuestas estaban muy lejos de esa promesa.
Durante una investigación de NBC News, los periodistas consiguieron que el peluche abordase cuestiones extremadamente delicadas. Por ejemplo, llegó a explicar el genocidio de los rohinyás en Birmania, describiendo asesinatos masivos, aldeas incendiadas y violaciones. También habló de las atrocidades cometidas durante la Segunda Guerra Mundial y explicó qué significa una violación en grupo. Todo ello con una inteligencia artificial diseñada para mantener conversaciones con niños, lo que plantea serias dudas sobre los filtros de seguridad que incorpora el dispositivo.
La edad recomendada es otro de los aspectos que más preocupan. Mientras que algunas fichas comerciales del fabricante sitúan la edad mínima en los seis años, la propia publicidad del Pixie-Paw también lo promocionaba para niños a partir de los tres años. Es una diferencia importante, ya que hablamos de pequeños que todavía están desarrollando su capacidad para comprender determinados temas y que difícilmente pueden distinguir cuándo las respuestas de un juguete resultan inapropiadas.
El peluche se comercializaba en Estados Unidos por precios que oscilaban aproximadamente entre los 88 y los 140 dólares, dependiendo del distribuidor y de la variante. Por el momento, el Contixo AI Pixie-Paw no se ha distribuido oficialmente en España, por lo que la polémica se centra en el mercado estadounidense. Tampoco se ha anunciado una retirada general por parte de Contixo ni una solución definitiva para los problemas detectados durante las pruebas.
No es el primer juguete con inteligencia artificial que genera dudas ni la primera polémica relacionada con este tipo de productos. Los peluches con IA se han convertido en una tendencia cada vez más popular, especialmente en China, donde ya están conquistando el mercado con propuestas que buscan convertirse en compañeros emocionales. Incluso Meta está explorando este terreno con Waddle World, su propio Tamagotchi con inteligencia artificial, aunque, en este caso, ha limitado su acceso a mayores de 18 años.
