Quatre joves beneficiaris de beques de la Fundació La Caixa, que cursen estudis de postgrau a l'estranger, s'han unit per impulsar el desenvolupament d'una intel·ligència artificial "al servei del bé comú" i dissenyada pensant en les persones. Albert Gimó, matemàtic i estudiant del màster en Matemàtiques, Visió i Aprenentatge en la Université Paris-Saclay (França), afirma que li interessa especialment l'alineació dels sistemes d'IA amb els valors humans. Segons recull la Fundació, el seu treball se centra a prevenir o reduir els problemes derivats d'entrenar algoritmes amb dades esbiaixades.
Per Gimó, no n'hi ha prou amb confiar en la bona fe dels creadors de models de gran escala, com ChatGPT; considera essencial desenvolupar una consciència activa sobre l'impacte tecnològic. "No és suficient no actuar amb mala intenció; cal reflexionar de forma deliberada sobre les conseqüències, defensa el matemàtic". Avisa, a més, que és fàcil perdre la connexió amb la realitat social quan la feina es limita a publicar investigacions i assistir a conferències sense avaluar l'efecte que aquestes tenen en la vida de les persones.
L'equitat i les comunitats vulnerables
Belén Luengo, graduada en Dret i Estudis Internacionals, començarà un màster en Ètica Aplicada i Polítiques Públiques a la Universitat de Duke (EE. UU.), amb especial atenció a la creació de tecnologies que promogui l'equitat i enforteixin comunitats històricament marginades, incloses persones amb discapacitat.
Luengo col·labora amb TheNeuroRights Foundation, on defensa els drets mentals davant l'avenç de les neurotecnologies. Entre les aplicacions més rellevants de la IA en aquest àmbit hi ha l'ús d'interfícies cervell-computadora per retornar capacitats comunicatives a persones amb ELA, que —segons assenyala— pot ser transformador per a la seva vida i alleujar l'anomenada "síndrome del tancament".
L'estudiant afirma que la tecnologia reflecteix les prioritats humanes i no és neutral. "Al món existeixen bones com males intencions, i la IA pot amplificar ambdues", adverteix. Afegeix que el ràpid progrés tecnològic obliga a replantejar-se contínuament quin tipus de societat es vol construir i cap a on encaminar-la.
IA com a suport i sense voluntat de substitució
Gonzalo Plaza, enginyer biomèdic i estudiant del màster en IA Aplicada a la Biomedicina i l'Assistència Sanitària al University College de Londres, considera que la intel·ligència artificial ha d'actuar com a eina de suport per al personal mèdic i no reemplaçar el judici professional. Ressalta la importància que els sanitaris comprenguin el funcionament dels models i la interpretació dels seus resultats.
"No és responsable ni des del punt de vista ètic ni legal, i no raona com ho fem els humans", explica. Reconeix tant els riscos derivats d'un mal ús com la pèrdua d'oportunitats si no s'explota el seu potencial. Segons la seva opinió, una IA de qualitat requereix dades de qualitat, i aquests existeixen, però és necessari saber organitzar-los.
Júlia Laguna, doble graduada en Física i Matemàtiques i doctoranda en Astronomia a la Universitat de Cambridge (Regne Unit), adverteix que els nous telescopis generaran volums ingents de dades, i que la IA serà essencial per processar-los. Tanmateix, és crítica amb l'entusiasme desmesurat que percep al sector i aposta per models més senzills, interpretables i fiables.
"És temptador seguir les modes tecnològiques, però hem de prioritzar aquelles eines que entenem i els resultats de les quals podem explicar", afirma. Per a Laguna, la intel·ligència artificial és beneficiosa si s'utilitza amb criteri. "Com qualsevol revolució, té els seus inconvenients. El problema és que potser no veurem els seus efectes negatius fins a d'aquí a una dècada, i llavors podria ser tard", conclou l'experta en física.