La intel·ligència artificial (IA) és, per definició, una cosa que ens és estranya i aliena a parts a iguals. Pel públic general és una gran desconeguda que la majoria de nosaltres no entenem i en molts casos ens pot arribar a fer por. Ara bé, això podria canviar molt aviat. En Dani, en Javier, en Pablo i en Carles s’han proposat avaluar els riscos de la intel·ligència artificial, com el racisme o el masclisme, i fer arribar al públic general i a les empreses d’arreu les possibilitats de la intel·ligència artificial a través d’EXPAI, la seva empresa creada a Barcelona, però, segons asseguren “amb vocació global”.
Aquesta és una entitat pionera a tot el món, de fet és la primera start-up europea especialitzada a combatre els perills, la manca de transparència i els reptes de la intel·ligència artificial. De fet, asseguren que “el futur ja és aquí i no estem preparats”. En una conversa amb ElNacional.cat tots quatre expliquen què és la intel·ligència artificial, com funciona, que aporta la seva empresa, com es va gestar la idea i el més important, els seus reptes de futur.
La tasca d’EXPAI, de fet, és fer comprendre com funcionen els models i els algoritmes d’intel·ligència artificial tant al públic general com a les empreses a través de dos espais molt diferents, la seva tasca més empresarial i el que han denominat EXPAI Academy.
Què és i per què serveix la intel·ligència artificial?
De la seva tasca, el que pot arribar més fàcilment és l’EXPAI Academy, un espai on bolcar continguts didàctics sobre intel·ligència artificial per rebaixar, i fins a cert punt desmitificar, aquest món que a priori és molt complicat d’entendre i posar a l’abast de tothom les tècniques d’avaluació que disposen. Al cap i a la fi per respondre dues preguntes, què és la intel·ligència artificial i per a què serveix.
Tot i que a priori sembla una cosa molt complicada, simplificadament en Carles explica que la IA és una "tecnologia capaç de replicar comportaments que si els fes una persona, diries que és una persona intel·ligent".
Carles Soler, un dels quatre fundadors d'EXPAI
Què fa EXPAI?
Dins d’aquesta descripció tan general, EXPAI s’ha especialitzat en els models de decisió i en Javier explica que aquest apartat de la IA és “un mètode matemàtic que intenta trobar patrons a les dades aprenent a partir d’altres dades”, metafòricament, afegeix, que és el mètode actual per intentar saber que passarà al futur. Això, al cap i a la fi, permet que es puguin prendre decisions basades en les dades objectives i no haver-ho de fer per intuïció. De forma més tècnica, la IA és un algoritme o un mètode que, rebent unes dades d’entrada, és capaç de predir una sortida o una resposta.
Aquestes prediccions, ens explica l’equip d’EXPAI, poden anar des de saber qui et comprarà un mòbil nou, passant pel preu de venda d’un vehicle o a quin candidat has de contractar per a la teva empresa; fins a arribar a un cotxe que es condueixi sol o un sistema de reconeixement facial, per tant, com es pot veure l’aplicació de la intel·ligència artificial és realment vasta i ens pot afectar en molts àmbits de la nostra vida quotidiana, i no és, en molts casos, tan complexa com ens la imaginem.
Javier Rando, un dels quatre fundadors d'EXPAI
Per tant, la seva principal activitat no va dirigida al públic general, sinó a les empreses. Concretament el que fan des d’EXPAI és analitzar els processos d’IA que usen i detectar si hi ha algun biaix que pugui arribar a representar un desavantatge per alguna persona o col·lectiu o una cosa encara més senzilla, detectar si el teu model funciona correctament, tal com tu havies planejat. Explicat així de forma més simple, EXPAI possibilita a les empreses que puguin entendre el que passa dins dels seus algoritmes, segons declaren els quatre creadors i posen a la seva disposició els mecanismes d’avaluació necessaris.
La tasca d’avaluació d’EXPAI es pot comparar amb l’obertura d’una caixa negra d’un avió. És a dir, obren el mecanisme, saben com funciona i el raonament que hi ha dins l’algoritme i, en cas d’error, ho traslladen al client. Això permet agilitzar el procés de perfeccionament de l’algoritme.
En definitiva, com resumeix en Pablo, amb EXPAI, una empresa podrà mirar el seu model, analitzar-lo i poder veure com funciona, les variables que té en compte i el perquè dels resultats que obté, per tant podrà explicar-los a una tercera persona. El fet d’entendre el model, permet a l’usuari poder confiar en ell molt més fàcilment.
Quins són els riscos de la IA?
Sobre la taula, la IA sembla infal·lible, però el cert és que té molts més riscos dels que sembla. Dins de l’espai de treball d’EXPAI, els algoritmes matemàtics, els errors poden venir per tots cantons i provocar discriminacions realment perilloses; realment pot fer que els algoritmes puguin arribar a tenir problemes vinculats amb el racisme, el masclisme o la LGTB-fòbia o provocar que una empresa prengui decisions menys òptimes i que, per tant, acabi perdent possibles beneficis.
Pablo Vitòria, un dels quatre fundadors d'EXPAI
Ara bé, com els mètodes matemàtics estan construïts per humans i s’alimenten de dades prèvies, es poden generar biaixos amb certa facilitat. A l’hora de desenvolupar-se, l’algoritme aplica aquests biaixos, així és com es pot arribar a discriminar algú.
Un exemple molt senzill és el que li va passar a Amazon amb un algoritme de selecció de personal per tal de ser més ràpids i objectius. Aquest model va estar entrenat amb les dades dels últims deu anys, quan la majoria de persones contractades havien estat homes i per tant, l’algoritme va aprendre que els homes eren un millor perfil que les dones i les descartava. Aquest era, clarament, un problema de masclisme i és, precisament, al que es dedica EXPAI.
Daniel Hormigo, un dels quatre fundadors d'EXPAI
Ara bé, els errors dels models no sempre són causats per errors humans. Hi ha un tipus d’algoritme que aprèn per si sol, i per tant pot passar que no prengui de manera desitjada, per tant EXPAI també entra en aquest terreny.
Com va néixer aquest projecte?
Tot plegat va néixer a les aules de la Universitat Pompeu Fabra, concretament a través d’un treball universitari que explicava un model per calcular el preu dels pisos de lloguer turístics a través d’IA, per tant una persona que posava la seva casa o pis a llogar, entenia perquè l’aplicació li recomanava un preu. A partir d’allà, en Dani i en Javier es van adonar que les empreses també tenien aquest problema. Tot plegat va anar prenent forma quan en Dani i el Javier es van posar a pensar i van acabar posant sobre la taula el que avui en dia és EXPAI. Després s’hi van unir en Pablo i en Carles, que van donar una idea més de negoci al projecte, per acabar de donar forma al projecte tal com és avui en dia.
De cara al futur, tots quatre volen, evidentment, que l’empresa vagi bé, però asseguren que això ho hauran de dir els mercats. Alhora consideren que el seu producte aporta molt valor a les empreses. Ara bé, encara fa molt poc que “han sortit de sota el radar” i ara estan en fase de testejar el seu producte amb alguns clients tot i que pensen que els primers contractes poden arribar aviat. A més asseguren que el que volen és tenir un impacte global, de fet aspiren a ser un referent global en aquest sector.
Imatge principal: D'esquerra a dreta, en Dani, en Javier i en Pablo, tres dels fundadors d'EXPAI