El Parlament Europeu va ratificar aquest dimecres la llei d'intel·ligència artificial (IA) que van pactar el desembre les institucions comunitàries. Es tracta de la primera regulació d'aquesta tecnologia al món i situa la Unió Europea (UE) com a pionera en la matèria. Tanmateix, ni la seva confecció ni la seva aprovació ha estat exempta de polèmica. Aspectes delicats, com la videovigilància o el reconeixement facial basat en sistemes d'IA, han estat alguns dels punts calents de la legislació. Finalment, la normativa s'ha aprovat aquest dimecres amb 523 vots a favor, 46 en contra i 49 abstencions.
Si bé la llei estava gairebé enllestida a finals del 2022, l'explosió d'eines basades en la intel·ligència artificial com ChatGPT ha fet que es revisi i s'adapti el text a la realitat actual. En si, no es tracta d'una regulació de la tecnologia, sinó del seu ús al mercat europeu i respecte als drets de la ciutadania.
Aspectes claus de la llei
En línies generals, la llei d'intel·ligència artificial prohibeix la vigilància massiva en espais públics, però permet que les forces de l'ordre puguin fer servir les cambres d'identificació biomètrica, amb l'autorització judicial prèvia, per prevenir una amenaça terrorista imminent. També per localitzar o identificar una persona que hagi comès delictes de terrorisme, tràfic de persones, explotació sexual o, per exemple, un crim mediambiental, així com per buscar les víctimes d'aquests delictes.
Tanmateix, diverses associacions de drets humans consideren que aquestes limitacions no són prou. Per exemple, des d'Amnistia Internacional sostenen: "La llei d'IA només ofereix proteccions limitades a les persones afectades i marginades. No prohibeix l'ús imprudent i l'exportació de tecnologies d'IA draconianes, alhora que no garanteix la igualtat de protecció als migrants, refugiats i sol·licitants d'asil. De la mateixa manera, no disposa de disposicions adequades de responsabilitat i transparència, que probablement agreujaran els abusos dels drets humans".
Així mateix, el reglament estableix una sèrie d'obligacions per als sistemes d'intel·ligència artificial generativa en què es basen programes com ChatGPT, de l'empresa OpenAI o Bard de Google. En concret, hauran d'especificar si un text, una cançó o una fotografia s'han generat a través de la intel·ligència artificial i garantir que les dades que s'han fet servir per entrenar els sistemes respecten els drets d'autor. A més, s'identifica tota una sèrie de sistemes d'intel·ligència artificial d'alt risc que només es podran comercialitzar si els desenvolupadors garanteixen que respecten els drets fonamentals. Per exemple, els que puguin influir en el resultat d'unes eleccions o els que facin servir les entitats financeres per avaluar la solvència i la qualificació creditícia dels clients. Avui mateix, Google ha anunciat que restringirà el seu xatbot, Gemini, basat en la IA de cara a les eleccions que vindran aquest any.
A més, la norma preveu crear l'Oficina Europea d'Intel·ligència Artificial, que coordinarà l'ús de la tecnologia entre les autoritats nacionals i estarà assessorada per un grup de científics i organitzacions de la societat civil.