La Unió Europea fa aquest diumenge un nou pas en l'aplicació del seu Reglament d'intel·ligència artificial (AI Act) amb l'entrada en vigor de les primeres obligacions de transparència per als sistemes d'IA. A partir d'ara, els proveïdors d'aquestes tecnologies hauran d'informar els usuaris quan estiguin interactuant amb una màquina i facilitar la identificació dels continguts generats o manipulats mitjançant intel·ligència artificial.

Les noves mesures afecten tant els assistents conversacionals com ChatGPT, Gemini o Claude, com altres sistemes d'IA utilitzats en serveis públics, atenció al client o gestió de processos automatitzats. L'objectiu és que els ciutadans puguin reconèixer quan una resposta, una imatge, un vídeo o un àudio han estat creats o alterats amb aquesta tecnologia.

Entre les principals novetats figura l'obligació que els sistemes d'intel·ligència artificial adverteixin expressament els usuaris que estan interactuant amb una IA i no amb una persona. Així mateix, els qui facin servir eines de reconeixement d'emocions o de categorització biomètrica hauran d'informar els ciutadans quan siguin analitzats, excepte en els casos previstos per la legislació per a la prevenció o investigació de delictes.

L'aplicació d'aquestes normes marca a més l'inici d'una nova etapa de supervisió. Des d'aquest diumenge, l'Oficina Europea d'intel·ligència artificial assumeix competències per vigilar els models d'IA de propòsit general, sol·licitar informació a les empreses desenvolupadores, avaluar els seus sistemes i exigir mesures correctores quan detecti riscos o incompliments.

La Comissió Europea també podrà coordinar aquesta tasca com les autoritats nacionals de vigilància del mercat i amb el Supervisor Europeu de Protecció de Dades, mentre que un panell d'experts científics i nous canals de denúncia reforçaran el control sobre el compliment del reglament.

Calendari

El calendari d'implantació de l'AI Act continuarà el pròxim 2 de desembre, quan entrin en vigor nou obligació per identificar mitjançant marques tècniques els continguts generats o manipulats per intel·ligència artificial, inclosos els coneguts com a deepfakes. A més, es prohibirà la creació d'imatges sexualment explícites generades amb IA sense el consentiment de les persones afectades, una mesura incorporada després de la preocupació generada per la difusió d'aquest tipus de continguts en diferents plataformes.

No obstant això, el reglament estableix algunes excepcions. Els continguts de caràcter artístic, satíric o de ficció no estaran subjectes a determinades obligacions d'identificació. També quedaran exempts aquells continguts sobre assumptes d'interès públic que hagin estat sotmesos a una revisió humana efectiva i comptin amb un responsable editorial.

Sancions

L'incompliment d'aquestes obligacions podrà comportar importants sancions. La Comissió Europea podrà imposar multes de fins a 15 milions d'euros o el 3% de la facturació anual global de l'empresa infractora, aplicant-se la quantia que resulti més elevada. En el cas de les institucions i organismes de la mateixa Unió Europea, les sancions podran assolir els 750.000 euros.

L'AI Act, considerada la primera regulació integral sobre intel·ligència artificial en l'àmbit mundial, continuarà desplegant-se de forma progressiva fins al 2028. Les pròximes fases inclouran l'aplicació de requisits específics per als sistemes d'alt risc, utilitzats en sectors com la sanitat, l'educació, l'ocupació o determinats productes industrials, amb el propòsit de reforçar la protecció dels drets fonamentals, la seguretat i la confiança dels ciutadans en l'ús d'aquesta tecnologia.