Ha passat més d'un mes des que la Unió Europea va pactar la primera llei d'intel·ligència artificial (IA) del món, per tal de permetre o prohibir l’ús de la tecnologia en funció del risc que suposi per a les persones i d’impulsar la indústria europea davant de potències com la Xina o els Estats Units. Ara, la llei de IA es vota al Consell de la UE aquest divendres de manera definitiva: què està en joc?

Després de tres anys de negociacions, els estats membre voten per aprovar o rebutjar el text final. Un text final que hauria patit retrocessos, segons va revelar un periodista del mitjà de comunicació paneropeu Euractiv la setmana passada i ja havien denunciat alguns eurodiputats. Les organitzacions de la societat civil agrupades a EDRi (European Digital Rights) reconeixen que "el text final de la llei d’IA està lluny de ser perfecte i queden mancances importants des de la perspectiva dels drets humans", però desitgen que la norma sigui aprovada aquest divendres: "Un rebuig total també suposaria riscos significatius per al futur de la regulació de la IA".

L’oposició de França i Alemanya

La qüestió aquí és que hi ha països com França i Alemanya que s’han posicionat contra la llei, tot intentant crear un front de bloqueig —que necessita un mínim de quatre estats membre—. La seva oposició al text no es deu a les insuficients proteccions dels drets humans, sinó als interessos tant de les agències nacionals de seguretat com de la indústria tecnològica: han argumentat que la llei serà massa restrictiva, sobretot pel que fa a les normes sobre sistemes d’IA d’ús general. 

En el cas francès, l’objectiu principal ha sigut limitar la transparència i supervisió de l’ús dels sistemes d’IA per part tant de la policia com de les agències de control de la migració per a la vigilància en temps real. Així, la llei pactada permet l’ús de càmeres d’identificació biomètrica en espais públics amb prèvia autorització judicial per prevenir una amenaça terrorista "genuïna i previsible" o "genuïna i present". De la mateixa manera, es podran fer servir per localitzar o identificar una persona que hagi comès delictes de terrorisme, tràfic de persones, explotació sexual o un crim mediambiental, així com per buscar les víctimes dels delictes. Però amb això no n’hi ha hagut prou per als francesos, que en les últimes setmanes han intentat aconseguir concessions.

Itàlia i Àustria, claus per rebutjar o no la llei

En el cas alemany, l’oposició ha vingut des d’una part del govern de coalició d’Olaf Scholz: els liberals del Partit Democràtic Lliure, que han fet campanya per tal d’assegurar que les empreses europees no es veurien obstaculitzades per una burocràcia excessiva —mentre que els eurodiputats i les organitzacions de la societat civil havien argumentat que la tecnologia era massa important per ser governada per les companyies—. Tot i això, és veritat que en les últimes hores agències com Reuters han pogut saber que l’executiu alemany hauria fet marxa enrere en les seves objeccions i, per tant, no hi hauria cap front de bloqueig.

En una situació similar estan Itàlia i Àustria, que serien els dos últims estats membre necessaris per rebutjar el text. Els primers estarien descontents amb com s’ha gestionat la llei, mentre que els segons estarien preocupats per qüestions no especificades relatives a la protecció de dades. 

Què es perd si es rebutja la llei d'IA?

Si França, Alemanya, Itàlia i Àustria s’ajunten per bloquejar la norma, des d’EDRi consideren que es perdria "el marc (encara que limitat) de responsabilitat i transparència per al desenvolupament i l’ús d’IA d’alt risc" —és a dir, que la llei "posa uns límits molt modestos a l’ús de sistemes d’IA molt perillosos"—. A més, recorden que "deixa oportunitats per a unes proteccions nacionals més sòlides", en referència a la regulació de la vigilància massiva biomètrica.

D’altra banda, "el rebuig de la llei d’IA suposaria greus riscos per a futures lleis d’IA", en referència a l’auge de l’extrema dreta arreu d’Europa i del previsible desplaçament a la dreta del pròxim mandat de la UE. En aquesta línia, el grup de defensa dels drets digitals a Europa recorda que s’enviaria "el missatge nociu que la IA és massa difícil de regular". En definitiva, que el bloqueig de la norma seria "una gran victòria per als grups de pressió de les grans tecnològiques i la indústria de la seguretat".

Segueix ElNacional.cat a WhatsApp, hi trobaràs tota l'actualitat, en un clic!