Gonzalo Alonso, CEO de Ditto, adverteix, durant una entrevista amb ON IA, que la intel·ligència artificial és la tecnologia amb més potencial per transformar la societat, però desmenteix que sigui màgia. Sota el criteri de l'expert tecnològic, l'autèntic motor són les dades i la qualitat d'aquestes és la seva gran preocupació, especialment per la manca de dades legals per entrenar models i per la facilitat amb què la IA està facilitant el frau i la clonació d'identitats.
Tot i alertar que els grans models de llenguatge encara al·lucinen i no tenen capacitat creativa ni contextual humana, rebutja les teories apocalíptiques i anima la ciutadania a utilitzar la intel·ligència artificial amb criteri per no "lliurar la personalitat a un algoritme". En clau de futur, Alonso subratlla que Europa, amb les seves lleis de privacitat, lidera el camí cap a una IA més fiable.
Què és per vostè la intel·ligència artificial?
Es tracta de la tecnologia amb més potencial per augmentar l'ésser humà que he vist en els més de trenta anys que treballo en l’àmbit de la tecnologia. Principalment per l'impacte que pot tenir en moltes de les tasques que avui ens prenen molt de temps i ara es redueixen a processos de pocs segons. Tanmateix, aquest gran potencial que té la intel·ligència artificial per optimitzar els processos, també hem de tenir cura d'entendre que no és un producte del Mag d'Oz, no és màgia. La intel·ligència artificial es basa en dades i la qualitat d'aquestes dades és el que realment em preocupa. Perquè depenent de la qualitat d'aquestes dades i de com s'hagin utilitzat per entrenar els models actuals que coneixem podríem obtenir resultats molt diferents dels que esperem. Però avui dia és la tecnologia que més potencial té per canviar la manera com treballem, convivim i fins i tot somiem.
Parlant d’aquestes preocupacions, com creu que es pot conviure amb les incerteses de la IA?
La meva preocupació és que no hi ha prou dades al món, legals, per entrenar aquests models en els pròxims anys. I aquests models que hem vist ara, els famosos LLM, hem descobert que són tecnologies que tenen molta fricció i això vol dir que tendeixen a al·lucinar. Per exemple, molt fàcilment, tendeixen a malinterpretar dades i, per descomptat, encara no tenen propietats pròpies d'un humà. No poden ser creatius en una presa de decisió, no poden extreure d'altres dades que no estiguin a la web o que no estiguin estructurades per alimentar la seva presa de decisions. No poden contextualitzar el que hi ha al voltant d'aquella situació en un moment determinat per poder dir si és correcte o no. Tots aquests processos són íntimament humans i estan en horitzons molt més llunyans del que vivim ara. Els LLM, segons la meva opinió, sí que són molt poderosos i són el primer vestigi fort que veiem de transformació a través de la intel·ligència artificial. Però és el primer.
Malgrat el factor humà que comenta, no es pot obviar el context actual on els atacs informàtics, en gran part amb intel·ligència artificial, estan a l’ordre del dia. Realment ens trobem en una situació crítica?
Absolutament crítica i la intel·ligència artificial, pel que fa a la seguretat i la nostra protecció d’identitat, no està fent res que millori la situació. De fet, el que hem trobat és que a través de la intel·ligència artificial es cometen la gran majoria dels fraus que tenen a veure amb identitat, reproduccions falses de passaports, i fins i tot biomètrica robada. Parlem d’una tecnologia que fa molt més senzill poder clonar molts dels processos amb els quals encara treballem en el dia a dia. Després, les dades que alimenten aquests biomètrics són inconsistents i no estan basades en criptografia. Tenen com a referència molts models anàlegs, que se n'han anat afegit a la web. Tornant a l’aspecte de les dades, la meva preocupació és diguem-ne asiàtica. Hi ha zones d’Àsia on no podem tenir rigor científic de què han utilitzat per entrenar aquests models. Hem de trobar la manera per tenir aquestes dades higiènicament segures. Darrere de la intel·ligència artificial està en joc les nostres dades personals.
I què podem fer?
Per sort a Barcelona, Catalunya i Espanya s’ha tingut un molt bon tracte amb la forma com es gestionen les dades. Un exemple és el DNI digital, però això no passa a tot el món. Mentre encara existeixin països i zones on es fa una recollida indiscriminada de dades personals, no serà possible interoperar correctament. En aquest context, la Unió Europea ha decidit aquests mandats d’identitat i privacitat. En aquests projectes trobem models d’obtenció de dades que s’anomenen zero knowledge proof o de coneixement zero de prova. El fet interessant d’això és que s’intenta descobrir qui ets, a través de protocols científics.
Enmig d’aquest triangle Europa-Estats Units-Àsia, quines mesures es poden impulsar per conviure d’una manera fiable?
Els models d’Europa són els més moderns que he vist a tot el món i ho dic amb coneixement de causa pels nombrosos viatges que haig de fer. Tenen la capacitat d’unir el nombre més gran de països per agrupar el problema i resoldre’l. Les lleis europees faran la volta al món, però tampoc resoldran el problema de la interoperabilitat. L’escenari de mudar-se d’un país a un altre i amb un clic tenir actualitzades, per exemple, les carteres d’identitat ho veig complicat encara. Ara bé, Canadà ja ha signat els acords europeus i està seguint la mateixa protecció de privacitat de les dades i el Brasil, que és una potència mundial en banca i dades, s’està acostant molt a Europa. En definitiva, ells estan pensant com nosaltres.
Es pot dir que les contrasenyes tradicionals han desaparegut?
El que provoca la identitat digital i, en certa manera la intel·ligència artificial, és que el tradicional nom d’usuari i contrasenya ja no és una estructura segura. La raó és que hem avançat molt tecnològicament i trencar una contrasenya és qüestió d’hores si tens prou tecnologia i coneixement. Aquí a l’Estat observem com les diferents bases de dades d’interès per a la seguretat nacional són violades i les conseqüències d’aquesta extracció apareixen, en pocs minuts, als mercats negres. Em ve al cap la gent gran o els menors que entren fàcilment a veure pornografia. Hi ha molta gent que necessita accedir a determinats recursos digitals, però encara no sap fer-ho correctament i així s’originen segons quines situacions complicades.
I parlant de la ciutadania, en quin punt veu aquesta expectació i esclat social de la intel·ligència artificial?
La ciutadania crec que no hauria d'estar tan preocupada. De vegades, per sort, a Espanya no tenim mitjans tan sensacionalistes, però definitivament no cal fer cas d’aquestes teories de Terminator que a vegades escolto. La part que la gent entén malament de la intel·ligència artificial té més a veure amb antropomorfitzar l’humà a la màquina. Quan escolto gent que diu com el Claude m’estima o el ChatGPT m’ha insultat es demostra l’existència d’una manca de coneixement estructural de com funcionen aquestes tecnologies.
Socialment, l’impacte més gran de la intel·ligència artificial és com t’impacta en la teva vida diària. Mireu el que no es pot resoldre com ho esteu fent habitualment i segurament aquí teniu una cosa que es pot solucionar amb IA. Jo no vaig néixer a Catalunya, però la meva família és d’aquí i em sento més català que ningú. Quan estic sopant o menjant calçots, no espatllaré l’àpat sent l’únic que intervé en castellà cada cinc segons. El ChatGPT és una eina que em permet integrar-me a la societat, sense haver d’estar fent classes perquè malauradament, per raons laborals, no tinc temps. Cada vegada que el ChatGPT o el Claude et proposa una cosa hi ha un gran repte que hem d’assimilar i és que si cada vegada que la intel·ligència artificial et dona una recomanació tu copies i enganxes estàs lliurant la teva personalitat a un algoritme molt sofisticat. Sembla una ximpleria, però enyoro trobar una falta d’ortografia o una expressió senzilla en un correu electrònic.
Una última pregunta. Sempre és complicat fer prediccions futuristes, però en un termini de cinc i deu anys en quin punt veu l’ecosistema d’intel·ligència artificial?
Ara mateix veig Anthropic molt avançada en la cursa, tecnològicament i econòmicament. S’acosta una economia de tokens, i us explicaré per què. Fins ara, la intel·ligència artificial estat molt subsidiada. Tots estem pagant una fracció del que hauria de costar el que ens estan lliurant aquestes companyies en resultats. La raó és que si ens cobressin el que ens haurien de cobrar, no seria possible un progrés cultural i tecnològic perquè ningú no ho podria adoptar. Entendre això és crític per entendre com acabarà el joc. Per tant, el primer que havíem de fer en intel·ligència artificial, i és una cosa molt filosòfica, era canviar la unitat de valor.
Així, els dòlars i els euros a les plataformes d'intel·ligència artificial no són tan poderosos com els tokens. I la causa és la mateixa per la qual els teus punts de milles aèries probablement al teu cap siguin més entenedors i poderosos que els punts que et pugui donar el teu banc en interessos o altres coses semblants. Els meus primers professors ja estaven estudiant i fent models d'intel·ligència artificial des de fa 35 o 40 anys. Això no és el que ha canviat. El que ha canviat violentament és que hem trobat una forma molt particular d'intel·ligència artificial que no creiem que trobaríem. El que pensava que ho viurien els meus fills ho veig jo ara amb els LLM. Per tant, traslladem-nos màgicament d’aquí a 15 anys.
ENTREVISTA COMPLETA