La gran pregunta sobre la intel·ligència artificial ha estat durant dècades fins on podien arribar a fer les màquines. La qüestió de la pròxima dècada és diferent. Què està fent la IA amb nosaltres?
Fins fa poc, la relació amb els sistemes digitals era principalment instrumental. S'introduïa una instrucció, s'executava una tasca i s'obtenia un resultat. Actualment, la irrupció de la IA, i en especial la generativa, està modificant aquesta lògica. Ja no ens limitem a utilitzar eines, sinó que hi conversem, els demanem consell, deleguem processos, explorem idees i hi recorrem per aprendre, crear o prendre decisions.
La IA comença així a actuar com a interlocutor i assistent cognitiu. No significa que pensi o decideixi com una persona, sinó que intervé de manera cada vegada més directa en activitats que formen part del raonament humà. El repte deixa d'estar únicament en el que la màquina és capaç de fer i està virant cap a la relació que hi construïm.
El canvi pot semblar gradual, però transforma profundament la naturalesa de la relació entre persones i tecnologia. Per això, el concepte d'IA de confiança necessita evolucionar. La investigació en IA responsable s'ha centrat, amb raó, en qüestions com la robustesa, l'explicabilitat, la privadesa, la transparència o la mitigació de biaixos. Totes elles continuen sent indispensables. Un sistema que no funciona de forma fiable, que no permet comprendre mínimament els seus resultats o que produeix efectes discriminatoris, difícilment pot considerar-se digne de confiança.
Però aquestes propietats tècniques ja no són suficients per descriure el problema complet. La confiança també afecta la informació que rebem i la nostra capacitat per valorar-ne l'autenticitat. La generació de continguts sintètics cada vegada més realistes qüestiona les nocions tradicionals d'autoria, evidència i legitimitat. Verificar la procedència de la informació, contextualitzar-la i preservar la credibilitat del coneixement s'ha convertit en una necessitat estratègica per a la ciència, les empreses, les institucions i la societat en el seu conjunt.
Tanmateix, hi ha una dimensió encara menys explorada. La confiança no depèn únicament de les característiques del sistema, sinó també de la qualitat de la interacció que la IA estableix amb les persones. Sabem mesurar la precisió d'un model. Podem avaluar el seu rendiment, la seva velocitat, la seva capacitat de generalització o la seva eficiència computacional. Disposem, a més, de metodologies cada vegada més madures per analitzar la seva robustesa o detectar determinats biaixos. En canvi, amb prou feines comencem a formular preguntes sistemàtiques sobre com la interacció continuada amb aquests sistemes pot influir en les nostres pròpies capacitats de raonament i decisió.
La personalització constitueix un bon exemple. Gran part de l'economia digital s'ha construït sobre la possibilitat d'anticipar els interessos de cada usuari. Plataformes de continguts, xarxes socials, cercadors i comerços electrònics seleccionen quina informació, productes o propostes mostren a cada persona. Aquesta selecció resulta útil, ja que redueix la sobrecàrrega informativa, facilita el descobriment i permet adaptar els serveis a necessitats concretes. La IA generativa actual porta aquesta lògica un pas més enllà. Ja no es limita a classificar o recomanar continguts, sinó que pot interpretar el context, conversar, reformular alternatives i produir respostes específiques per a cada usuari. La seva capacitat per personalitzar la interacció és molt més gran.
La qüestió no és, per tant, si la personalització és positiva o negativa. Plantejada així, la pregunta seria massa simple. El veritable repte consisteix a determinar quin tipus de personalització interessa dissenyar. I en aquest interès intervenen no pocs factors, ja que la interacció mai és neutral. La interacció està orientada pels objectius que el sistema ha estat dissenyat per optimitzar i aquests objectius influeixen en la informació que rebem, les alternatives que considerem i els comportaments que reforcem.
Ha d'intentar un algorisme encertar sempre allò que ja sabem que ens agrada? O hauria d'introduir també perspectives inesperades, alternatives menys evidents i espais per a l'exploració? Interessa maximitzar únicament la satisfacció immediata o preservar també la possibilitat de descobrir allò que encara no forma part de les nostres preferències? Han de maximitzar les recomanacions el bé individual o el bé social col·lectiu? Aquestes preguntes no pertanyen exclusivament a la filosofia o a l'ètica. També s'han d'abordar des de l'àmbit cientificotecnològic.
Cal estudiar, per exemple, si existeix un equilibri òptim entre rellevància i diversitat; analitzar com canvia la conducta d'exploració dels usuaris davant de diferents sistemes de recomanació, o avaluar si determinades formes d'interacció amplien o redueixen la varietat d'informació considerada abans de prendre una decisió. També cal investigar com influeixen els sistemes personalitzats en l'evolució de les preferències al llarg del temps. No es tracta d'afirmar que la hiperpersonalització estigui reduint necessàriament l'autonomia, la creativitat o la diversitat cultural. Avui no existeix una resposta general que permeti sostenir-ho. Es tracta de reconèixer que, donada l'escala i la intensitat d'aquestes interaccions, el seu impacte mereix ser investigat amb el mateix rigor amb què s'estudien altres propietats de la IA.
La creativitat planteja interrogants semblants, ja que els sistemes generatius poden produir textos, imatges, música o dissenys tècnicament sofisticats. També poden ampliar l'accés a eines creatives i facilitar que més persones materialitzin les seves idees. Però els models aprenen, per definició, a partir de grans quantitats de contingut existent i generen resultats recolzant-se en regularitats estadístiques.
Convé preguntar-se què passa quan una part creixent de la producció cultural es basa en sistemes entrenats sobre patrons previs i optimitzats per satisfer preferències conegudes. Afavoriran més diversitat creativa en reduir les barreres d'entrada? O tendiran a reforçar estils, estructures i solucions que ja han demostrat ser acceptades? Apareixerà una forma de perfecció mitjana, produccions tècnicament impecables, immediatament recognoscibles, però progressivament menys singulars? En resum, com afectarà el procés creatiu i quina serà la nostra apreciació d'aquesta nova forma de creació?
No hi ha una resposta única ni predeterminada. Precisament per això resulta necessari abordar la qüestió evitant tant l'alarmisme com l'entusiasme acrític.
La història de la innovació mostra que la creativitat no depèn únicament de la capacitat de produir resultats correctes. També necessita fricció, sorpresa, contradicció, error i trobades inesperades. Si els sistemes intel·ligents intervenen cada vegada més en els processos de cerca, selecció i creació, el disseny d'aquestes interaccions hauria de considerar no només l'eficiència, sinó també la seva capacitat per a mantenir oberts aquests espais. Aquesta perspectiva amplia el significat d'una intel·ligència artificial centrada en les persones. No n'hi ha prou amb minimitzar danys o complir requisits normatius. També és necessari orientar el desenvolupament tecnològic cap al progrés humà i preguntar-se quines capacitats es pretenen preservar, o fins i tot reforçar, mitjançant la seva adopció.
L'autonomia, en aquest sentit, no significa rebutjar l'assistència algorítmica ni reservar totes les decisions a les persones. Significa conservar la capacitat de comprendre les alternatives rellevants, contrastar perspectives, modificar les mateixes preferències i decidir amb un criteri que no hagi estat delimitat de manera invisible per una IA.
Per això, la següent frontera de la IA de confiança pot consistir a avaluar no sols el rendiment dels models, sinó també el rendiment de la relació entre models i persones. Al costat de mètriques de precisió, robustesa o eficiència, caldrà explorar indicadors que permetin estudiar la diversitat d'informació considerada, la capacitat de descobriment de l'usuari, l'evolució de les preferències o el manteniment del judici crític. No per a reduir la complexitat humana a una xifra, sinó per a disposar d'evidències que permetin dissenyar millors sistemes.
Aquesta nova frontera planteja una agenda científica exigent. Comprendre com la IA influeix en la nostra autonomia, creativitat i capacitat de decisió obliga a incorporar també ciències socials, psicologia cognitiva, ètica en cada punt del disseny. També exigeix treballar fora del laboratori. Els seus efectes només poden avaluar-se plenament allà on la tecnologia s'incorpora a processos reals, interactua de forma continuada amb les persones i transforma pràctiques professionals, organitzatives i socials.
Convertir aquesta agenda en coneixement aplicable requereix, per tant, espais capaços de connectar investigació avançada, desenvolupament tecnològic i experimentació en entorns reals. Durant dècades hem mesurat el progrés de la IA observant el que les màquines eren capaces de fer. Ha arribat el moment de repensar també com la seva presència transforma la manera en què les persones aprenen, descobreixen, creen i decideixen. La confiança ja no pot entendre's únicament com una propietat de l'algorisme. Ha de ser també una propietat de la relació que construïm amb ell.
- Gabriel Anzaldi, director d'Ecosistemes d'Eurecat
- Rafael Redondo, director de la Unitat de Tecnologies Multimèdia d'Eurecat
- Lali Soler, directora de l'Àrea Digital d'Eurecat