La intel·ligència artificial avança a un ritme vertiginós i ja forma part de molts àmbits de la nostra vida, però també planteja reptes que sovint passen desapercebuts. Per a la consultora Virgínia Carreras, especialista en igualtat i biaixos de gènere, el desenvolupament d’aquesta tecnologia ha d’anar acompanyat de consciència, formació i una mirada interseccional que permeti identificar i corregir les discriminacions que els algoritmes poden reproduir. Carreras alerta en aquesta entrevista a l’ON-IA que la intel·ligència artificial aprèn de grans volums de dades que no sempre són neutrals i defensa que les persones han d’estar al centre de les decisions.
Què és per vostè la intel·ligència artificial?
Per mi, la IA, resumint molt, no deixa de ser estadística, patrons i prediccions amb un gran volum de dades i de les quals, aquesta tecnologia s'entrena i aprèn. Per tant, això que raona o pensa, jo més aviat dic que calcula quina resposta és la més adequada o la més coherent en funció de totes aquelles dades de les quals ha après.
Quina és la seva relació quotidiana i professional amb la tecnologia?
La quotidiana en el dia a dia no professional hem de veure la diferència entre si és conscient o inconscient, perquè inconscientment ho tenim al voltant sempre. Ho tenim molt integrat en plataformes com Netflix, Spotify o fins i tot amb el desbloqueig del mòbil, el reconeixement facial i el filtre de correu maliciós. En l’àmbit personal intento no fer un ús excessiu i soc molt curosa amb les meves dades personals. Sí que la faig servir, però per coses molt puntuals. Ja he deixat de fer servir un buscador normal de Google i utilitzo la intel·ligència artificial, a escala professional, per detectar fonts fiables que m’ajudin a investigar els biaixos de gènere a la intel·ligència artificial. Ara bé, tot això s’ha de contrastar perquè moltes vegades et detecta informes científics que després no es corresponen amb el que s’ha vist inicialment. D’altra banda, també utilitzo la IA com a assistent.
Plantejar un bon 'prompt' és la clau per tenir un ús eficient de la IA?
Amb els prompts sempre pots fer que una resposta sigui millor o pitjor, en funció dels detalls que introdueixis. Així pots acotar més la resposta i evitar que s’inventi aquella part que tu no li has acotat.
Com s’aterra la igualtat de gènere en aquesta tecnologia?
És complicat, no ens enganyem. Normalment, no es troba entre les prioritats de les estratègies empresarials de les grans corporacions que mouen els fils. El primer pas és tenir consciència de l’existència d’un biaix de gènere i fer moltes divulgacions o accions concretes. No només podem donar la responsabilitat a l'usuari de les eines i, a la vegada, a les empreses que dissenyen els models.
Quines són les principals problemàtiques que vostè detecta quan un client contracta els serveis de la consultora Smart Equality?
Quan parles de biaixos de gènere de la intel·ligència artificial, les cares són de què m’estàs parlant. Per aquesta raó, insisteixo, cal formació, xerrades, divulgació i conscienciació. Un exemple és l’àmbit de la selecció de personal, on la intel·ligència artificial deixa de banda certs perfils, en el context dels biaixos, perquè és el que ha après. Això està contrastat. Existeixen evidències científiques del fet que la IA aprèn del gran volum de dades i aquestes poden tenir biaix. Una singularitat que discrimina a certs perfils per no ser els més representatius. Aleshores, molts clients sí que em demanen com, amb la intel·ligència artificial, puc incrementar la meva productivitat al voltant dels processos de selecció i no crear una discriminació.
Davant d’una decisió discriminatòria, qui se n’ha de fer responsable?
És una gran pregunta. Si tus dissenyes una eina que pot acabar discriminant, la responsabilitat és de qui dissenya. Ara bé, també es dissenyen eines per un determinat ús i la gent ho acaba fent servir per a altres coses. Aleshores, de qui és la responsabilitat? Hi ha tota una dicotomia que no ens acabem de posar d’acord.
Potser és que la tecnologia avança més ràpidament que les normatives?
La tecnologia va a la velocitat de la llum i les persones, entitats i empreses anem al darrere. Evidentment que tothom ha adaptat la IA al dia a dia, però estem encara lluny d’aquest ritme tecnològic.
Més enllà que la dona o altres perspectives de gènere puguin intervenir en la creació dels algoritmes, què s’ha de tenir en compte per millora l’actual context?
La interseccionalitat és molt important perquè no és només i existeixen discriminacions més enllà de la descrita entre dona i home. També s’han detectat discriminacions respecte de la raça, l’ètnia i l’edat. L’edatisme és una cosa que comença a estar molt present en la intel·ligència artificial. Per totes aquestes raons s’hauria de posar molt més a la persona en el centre de les decisions i dissenyar eines que tinguin en compte les repercussions més enllà de l’estratègia empresarial i el compte de resultats.
Això que descriu ho veu factible a curt termini?
M'agradaria dir-te que sí, però no soc molt optimista perquè realment tot va a molta velocitat i les sis o set grans empreses que mouen els fils no ho tenen com una prioritat en la seva estratègia empresarial.
Tornant a una visió més general de la IA al món de l’empresa. Hi ha molta distància entre el que una empresa creu que té o el que realment ha d’aplicar?
Depèn molt de l’empresa, perquè no es pot generalitzar. Crec que falta molta consciència de totes les repercussions de la intel·ligència artificial. Allà on puguis aplicar-la, sigui selecció de personal o la medicina, la persona ha d’estar al centre de tot. No som conscients de tot el que hi ha al darrere de la creació dels algoritmes.
Recentment, han sortit enquestes de diferents actors sobre l’ús de la IA i una conclusió generalitzada és que el 60% dels treballadors reconeixen que utilitzen l’eina d’esquena a l’empresa. Falta pedagogia i protocols perquè d’alguna manera el treballador faci servir la IA des d’una perspectiva humanista?
El primer pas és assumir la realitat. La intel·ligència artificial pot tenir conseqüències per les persones, però no l’hem d’apartar. És millor fer una formació, entendre quins són els riscos i analitzar com aplicar-la al meu lloc de treball. A més, de valorar també que hi ha certs límits i s’ha de fer un ús ètic amb transparència.
ENTREVISTA COMPLETA