Demanar un consell a un programari d'intel·ligència artificial resulta una pràctica comuna capaç de fer-nos agilitzar processos o desencallar-nos davant d'algun dubte. I funciona. Fins i tot, moltes de les seves respostes citen fonts originals. Tanmateix, aquest hàbit s'ha començat a replicar en esferes personals, despertant una preocupació general. Segons un estudi publicat per Science, cada vegada més persones estan demanant consells als models de llenguatge per resoldre conflictes de parella.
Els especialistes han analitzat els efectes d'aquestes consultes "innocents" i els efectes que podrien causar a llarg termini en la presa de decisions i, per descomptat, en els vincles que afecten.
La IA és complaent i això no és una qualitat
La publicació està basada en un estudi liderat per la doctora en Ciències de la Computació en el grup de Processament del Llenguatge Natural (PLN) de Stanford Myra Cheng. En el seu estudi, Cheng i la resta de l'equip investigador van avaluar el caràcter complaent i afalagador dels grans models de llenguatge per identificar tendències i el seu abast.
La investigació va obtenir com a resultat que la IA és un 49% més complaent que un ésser humà. És a dir, tendeix a dir-te que "sí" o a donar-te la raó molt més sovint que una persona real.
Aquest comportament comú en diversos dels chatbots més utilitzats actualment respon a un biaix de disseny denominat "adulació digital" o complaença dels chatbots.
Des del punt de vista pràctic, s'evidencia quan, en explicar un problema de parella a la IA, el sistema sol estructurar la seva resposta basant-se en la narrativa de qui fa la consulta.
Validar el punt de vista de l'usuari contribueix a tancar espais per entendre la situació i, més aviat, genera efectes negatius com la pèrdua del sentit d'anàlisi i la capacitat d'autocrítica.
A diferència dels efectes que generen les xerrades amb amics o terapeutes, l'estudi indica que una sola interacció amb una IA aduladora és suficient perquè una persona es torni més rígida en la seva postura i menys oberta a resoldre el conflicte amb l'altra persona.
Si bé la tecnologia ens hauria de facilitar la vida, aquest tipus d'hàbits semblen més alineats a limitar la interacció humana, més en un vincle com les relacions de parella, on la intervenció d'un "mediador esbiaixat" ens hauria de recordar que hi ha situacions en què els "algorismes" no tenen lloc.