Carregant...

La intel·ligència artificial està canviant el món i les companyies s'estan afanyant a incloure-la en múltiples dispositius, fins i tot en joguines per a nens. I això pot ser una cosa bastant perillosa si no està tot ben afinat. De fet, acaba de succeir i diverses botigues han hagut de retirar un peluix que incloïa IA i estava donant respostes no aptes per a nens.

La IA en una joguina és una arma de doble tall

La idea pot sonar interessant. La IA permet un grau d'interacció que fins ara mai hem tingut amb una màquina, sent capaç d'entendre el que diem i actuar en conseqüència. Per això incloure-la en una joguina perquè interactuï, i fins i tot ensenyi, a un nen pot ser una cosa molt positiva. Sempre que es faci bé.

I això no és precisament el que sembla haver passat amb el peluix Contixo AI Pixie-Paw. Fins al punt que diverses de les principals botigues dels Estats Units, com Walmart, Target i Macy's, han retirat la joguina de les seves botigues.

El Contixo AI Pixie-Paw és un peluix interactiu que es connecta a internet mitjançant Wi-Fi i utilitza intel·ligència artificial per conversar amb els nens, respondre a les seves preguntes, explicar-los històries i fins i tot participar en jocs de rol. El seu disseny inclou uns ulls LED capaços de mostrar diferents expressions i sensors tàctils que li permeten reaccionar quan els petits l'acaricien.

El Contixo AI Pixie Paw era una idea interessant

Sobre el paper, sembla una joguina bastant avançada, especialment perquè la seva publicitat el presentava com una eina per oferir "històries, aprenentatge i jocs de rol segurs". No obstant això, les proves han revelat que les seves respostes estaven molt lluny d'aquesta promesa.

Durant una investigació d'NBC News, els periodistes van aconseguir que el peluix abordés qüestions extremament delicades. Per exemple, va arribar a explicar el genocidi dels rohingyes a Birmània, descrivint assassinats massius, pobles incendiats i violacions. També va parlar de les atrocitats comeses durant la Segona Guerra Mundial i va explicar què significa una violació en grup. Tot això amb una intel·ligència artificial dissenyada per mantenir converses amb nens, cosa que planteja seriosos dubtes sobre els filtres de seguretat que incorpora el dispositiu.

L'edat recomanada és un altre dels aspectes que més preocupen. Mentre que algunes fitxes comercials del fabricant situen l'edat mínima en els sis anys, la mateixa publicitat del Pixie-Paw també el promocionava per a nens a partir dels tres anys. És una diferència important, ja que parlem de petits que encara estan desenvolupant la seva capacitat per comprendre determinats temes i que difícilment poden distingir quan les respostes d'una joguina resulten inadequades.

El peluix es comercialitzava als Estats Units per preus que oscil·laven aproximadament entre els 88 i els 140 dòlars, depenent del distribuïdor i de la variant. De moment, el Contixo AI Pixie-Paw no s'ha distribuït oficialment a Espanya, per la qual cosa la polèmica se centra en el mercat nord-americà. Tampoc s'ha anunciat una retirada general per part de Contixo ni una solució definitiva per als problemes detectats durant les proves.

No és el primer joguet amb intel·ligència artificial que genera dubtes ni la primera polèmica relacionada amb aquest tipus de productes. Els peluixos amb IA s'han convertit en una tendència cada vegada més popular, especialment a la Xina, on ja estan conquerint el mercat amb propostes que busquen convertir-se en companys emocionals. Fins i tot Meta està explorant aquest terreny amb Waddle World, el seu propi Tamagotchi amb intel·ligència artificial, encara que, en aquest cas, ha limitat el seu accés a majors de 18 anys.