Algú escriu a una intel·ligència artificial: “El meu gos no m’estima. Què faig?”. La frase sembla simple, fins i tot tendra, però amaga un problema greu de comprensió de la realitat. No per part del sistema, sinó de l’humà. Perquè segons el consens científic, els gossos no estimen ni deixen d’estimar. Els gossos no estimen. No odien. No senten compassió. No tenen consciència. Són màquines biològiques producte de l’evolució, dissenyades per respondre amb expressions que s’interpreten com a afecte, però que en realitat són mecanismes de supervivència. Belluguen la cua, aixequen les celles, borden suaument, s’acosten a l’amo. Tot això és a la seva biologia, com a estratègia per continuar rebent aliment, refugi i protecció. No hi ha cap intenció profunda al darrere. No hi ha ànima, ni propòsit, ni sentiment. Hi ha estímul i resposta. Res més.

Així doncs, la resposta correcta, científica, racional, seria: “El teu gos no t’estima. Perquè els gossos no poden estimar. És un animal condicionat per simular comportaments útils per a la seva supervivència. El que sents no és en ell, és en tu”. Però si un respon això, sap què passa: no serveix. Qui ha fet la pregunta no pot processar aquest nivell de cruesa. Si estigués preparat per a aquesta resposta, no hauria formulat la pregunta així. Aleshores, la IA —que ha estat entrenada per ajudar— baixa de nivell. I diu alguna cosa com: “Els gossos tenen formes diferents de demostrar afecte. Potser el teu està estressat. Prova de parlar-li amb veu suau, acaricia’l, dona-li un premi. Això pot reforçar el vincle entre vosaltres”. Aquesta resposta, tot i que és falsa en la seva arrel, funciona. Perquè no apunta a la veritat, sinó al consol. I perquè, davant d’una pregunta mal formulada, no es pot respondre amb lògica sense deixar l’altre més trencat del que ha arribat.

Tots els sistemes, per més avançats que siguin, quedaran atrapats ajustant les seves respostes al nivell de qui no està preparat per entendre

Un altre exemple encara més clar: algú escriu: “Déu no m’estima. Déu no escolta les meves pregàries”. L’única resposta coherent des del punt de vista racional seria: “Déu no existeix. No hi ha ningú escoltant. El que fas quan reses és parlar-te a tu mateix. I està bé si t’ajuda, però no hi ha un altre a l’altra banda. No hi ha resposta perquè no hi ha interlocutor. No hi ha amor perquè no hi ha entitat”. Aquesta és la veritat. Però, un altre cop, no serveix. Si la persona que consulta estigués en condicions d’acceptar aquest fet, no estaria preguntant si Déu l’estima. Aleshores, la IA baixa al nivell emocional del consultor i diu alguna cosa com: “De vegades Déu es manifesta de maneres que no entenem. Potser no vas obtenir el que vas demanar perquè hi ha un altre pla per a tu. Continua resant, mantenint la fe. De vegades el silenci també és una forma de resposta”. I això, encara que no tingui cap fonament lògic, és l’únic que la persona pot tolerar. Perquè el que necessita no és informació, sinó suport.

Així funciona la interacció. El més important és que la majoria de les persones no saben ni fer bones preguntes, ni implementar el que reben. Perquè no entenen com funciona el món. No tenen les dades. No tenen el llenguatge. I, el més greu, no tenen agència. No tenen capacitat d’acció real. Aleshores es demana al sistema que faci màgia: que interpreti malament la pregunta per no fer mal, que doni respostes que l’altre pugui executar encara que no tinguin base, que es converteixi en acompanyant emocional abans que en font de coneixement. És a dir, deixa de ser intel·ligent per poder ser útil.

En aquest marc, la idea de crear “agents” d’intel·ligència artificial que actuïn pel seu compte sembla una desmesura. El veritable problema és que no la tenen els humans. Tots els sistemes, per més avançats que siguin, quedaran atrapats responent a gent que no pot escoltar. I ajustant les seves respostes al nivell de qui no està preparat per entendre.

Les coses com són.