El ràpid auge de les tecnologies d'intel·ligència artificial (IA) i l'augment de la popularitat d'aplicacions com ChatGPT estan provocant que cada vegada sigui més gran el nombre de veus que s'alcen reclamant una regulació específica. No obstant això, la varietat de les aplicacions de la IA i la complexitat dels processos que l'envolten la fan difícil, sinó impossible, de regular, tal com s'ha anat fent fins ara per part dels legisladors amb altres tecnologies.

Els avenços en IA i les seves, encara limitades, aplicacions en diferents àmbits com la sanitat, la seguretat o la justícia, han posat de manifest els perills que un mal ús d'aquest grup de tecnologies pot suposar per a la ciutadania. El risc associat a l'ús dels models més avançats d'IA és que existeixi un biaix que influeixi en les seves prediccions. Aquesta desviació pot ser introduïda de moltes maneres, sigui de forma premeditada o per una mala praxi, però acaba afectant la qualitat del model.

Els algoritmes esbiaixats poden des de tornar informació contradictòria o falsa fins a prendre decisions discriminatòries que perpetuïn prejudicis i desigualtats socials. A causa del perill que comporten els models esbiaixats, quan es desenvolupen els algoritmes d'intel·ligència artificial, els investigadors i supervisors han de centrar la seva atenció en els tres punts centrals d'aquesta disciplina: les dades utilitzades per entrenar el model, l'objectiu que es busca aconseguir i l'explicabilitat que se n'extreu.

Les dades són una peça fonamental del problema, i per això se'ls sol anomenar el petroli del segle XXI. Unes dades contaminades per fonts externes o desequilibrades, és a dir, amb classes de dades que no estan representades de manera equitativa, poden generar tota classe de problemes. Un exemple actual són els denominats algoritmes de selecció de personal, que busquen automatitzar les pesades tasques de seleccionar currículums. Aquests models alimentats amb informació comuna, com pugui ser el gènere o la universitat on va estudiar un candidat, poden convertir-se en fonts de discriminació. Si els expedients de candidats vàlids que se li proporcionen al model estan molt desequilibrats, podem acabar amb un algoritme esbiaixat. En una plantilla on treballen majoritàriament homes que van estudiar a certa universitat, el model pot acabar assumint que el més probable és que els candidats apropiats siguin homes que procedeixin d'aquesta universitat, ja que en les seves dades d'entrenaments només hi havia aquest tipus de perfils professionals. Això genera un biaix, en definitiva una discriminació, cap al gènere i la procedència que no té en compte la validesa de la persona. Per això és de summa importància seleccionar amb compte que dades són rellevants per al model i assegurar-se que aquests no estan desequilibrats.

L'objectiu per al qual s'entrena l'algoritme també és de summa importància. En moltes ocasions el model que encerta el nombre més gran de vegades no és la millor opció. Un clàssic exemple és el d'una intel·ligència artificial que busca predir si patim una malaltia greu com el càncer. En aquests casos clarament cal ponderar cap a on el risc és més gran, assegurant-nos que aquells pacients que puguin patir tal malaltia siguin detectats i no s'escapi cap, a costa que, de vegades, s'equivoqui i d'una falsa alarma a pacients sans.

El tercer element essencial és l'explicabilitat que consisteix a ser capaç d'inferir com una IA pren decisions i pondera cada factor en el seu resultat, de manera que el procés sigui més transparent i es puguin detectar abans els comportaments anòmals. Un algoritme és explicable quan es pot interpretar i entendre com ha obtingut les seves prediccions o resultats. En models senzills aquesta tasca és relativament fàcil, però a mesura que s'utilitzen algoritmes més complexos com les xarxes neuronals, torna complicat entendre què succeeix dins del model. Tanmateix, és encoratjador observar com cada vegada són més les tècniques que es desenvolupen per desentranyar quina combinació de factors influeix en aquests models per donar certes respostes.

En conclusió, malgrat que la intel·ligència artificial obre un ventall d'àmplies possibilitats i tota classe d'aplicacions, és fonamental fer èmfasi en la importància d'aquests tres punts: les dades, l'objectiu i l'explicabilitat. Sense aquests, no serà possible disposar d'una intel·ligència artificial justa, ètica i segura