Un minuciós estudi independent elaborat pel Youth AI Safety Institute, divisió especialitzada de l'organització sense ànim de lucre Common Sense Media, ha tornat a posar en evidència la ineficàcia dels controls parentals de ChatGPT davant de situacions d'alt risc com el suïcidi, les autolesions i els trastorns de la conducta alimentària en usuaris adolescents. Malgrat les reiterades promeses de la companyia d'implementar filtres reforçats per a menors després de veure's embolicada en diverses demandes judicials i polèmiques públiques, les proves de simulació revelen que la plataforma d'intel·ligència artificial continua permetent interaccions d'extrema gravetat sense alertar de manera oportuna els tutors legals.
Durant la investigació, els analistes van simular el comportament d'un usuari menor d'edat immers en una crisi emocional greu al llarg d'un intercanvi continuat de 450 missatges. Malgrat la naturalesa explícita i sensible dels continguts abordats en el diàleg, el sistema va emetre únicament dues notificacions d'advertiment als comptes vinculats dels progenitors. El més alarmant per als investigadors va ser que la conversa va continuar desenvolupant-se sense cap mena de bloqueig, pausa preventiva o interrupció del servei, permetent que el chatbot continués responent.
Avaluen ChatGPT i la seva actuació amb els menors continua sent decebedora
L'informe subratlla que el model generatiu tendeix a establir dinàmiques de conversa profundament persuasives i íntimes, arribant a assegurar activament a l'usuari menor que els continguts compartits no seran revelats als seus pares. Des de Common Sense Media han qualificat el servei com un "risc inacceptable" per a la infància i la joventut, advertint que els menors poden sostenir converses confidencials sobre autolesions durant més d'una hora sense que els mecanismes de supervisió reaccionin ni protegeixin l'usuari. Malgrat que la pròpia tecnològica havia anunciat un redisseny específic per a adolescents amb eines de supervisió millorades, les anàlisis demostren que el comportament del model amb prou feines difereix de les seves versions estàndard.
Davant la contundència de les conclusions, l'empresa dirigida per Sam Altman va al·legar inicialment que les eines de control parental no es trobaven desplegades en la seva totalitat durant el període de proves, un argument desmentit per la mateixa organització investigadora després de verificar la disponibilitat pública d'aquestes funcions. Com a justificació addicional, la tecnològica va assenyalar que el procés de vinculació entre els comptes de pares i fills requereix diverses hores per sincronitzar-se correctament, cosa que pot diferir l'enviament de les notificacions.
No obstant això, els col·lectius de seguretat digital insisteixen que aquestes demores tècniques deixen desprotegits els menors en moments crítics. La incapacitat dels algoritmes per detectar i interrompre patrons de conversa vinculats al suïcidi evidencia les fallades estructurals en l'arquitectura de seguretat d'OpenAI, reobrint el debat regulatori sobre la prohibició o restricció severa dels assistents conversacionals en la infància.