Els continguts 'deepfake' sexuals generats sense consentiment amb intel·ligència artificial tenen els dies comptats a Europa. La Unió Europea ha arribat aquest dijous a un acord per prohibir les IA que permetin generar contingut "sexualment o íntimament explícit" o material pornogràfic que inclogui menors. El veto entrarà en vigor al territori comunitari a partir del pròxim dos de desembre, de manera que Brussel·les dona a les empreses marge fins a finals d'any per adaptar els seus sistemes. La mesura sorgeix d'un acord polític al Consell de la UE —on estan representats els estats membres i el Parlament Europeu— per reformar la llei europea d'IA aprovada el 2023.

El veto s’aplicarà a la comercialització a la UE de les IA que tinguin per objectiu crear aquest tipus de contingut —sigui amb imatges, vídeo o àudio—, de les que no tinguin mesures de seguretat per evitar-ne la creació, així com sobre l’ús de les IA habituals amb la finalitat de generar aquest contingut. Un cop tancat aquest debat intern, ara les institucions europees hauran de sotmetre a votació el text perquè pugui adoptar-se formalment en els pròxims mesos. Això suposa una modificació de la llei sobre intel·ligència artificial de la UE, que es va aprovar el 2023 i que des del 2025 s'ha anat desplegant progressivament.

El canvi en la normativa es va promoure arran de la polèmica que es va produir a finals de desembre i al gener a la xarxa social X, on es van viralitzar milers d’imatges sexualitzades de dones reals manipulades amb IA, el que es coneix com a 'deepfake'. Segons dades del Centre per Contrarestar l'Odi Digital, nombrosos usuaris de la plataforma propietat d'Elon Musk van generar fins a tres milions d'imatges sexualitzades en poc més d'una setmana. Una de les víctimes d'aquestes pràctiques va ser la primera ministra italiana, Giorgia Meloni, que ho va denunciar. Abans d'aquest incident d'abast internacional, a Espanya la problemàtica va estar en primera plana pel cas d'un poble extremeny anomenat Almendralejo, on diversos adolescents van crear amb IA i compartir imatges sexualitzades de les seves companyes de classe, i el cas va arribar al jutjat de menors.

Aquesta reforma de la llei d'IA aprovada avui també endarrerirà l'obligació d'introduir una marca d'aigua en els continguts generats per IA fins al 2 de desembre de 2026, així com les sancions per incompliment, que havien de començar a aplicar-se igualment l'agost de l'any vinent. Així mateix, eximirà les petites i mitjanes empreses del sector d'algunes disposicions i controls que recull la regulació. A més, proposa simplificar la documentació i els processos burocràtics a què estan sotmeses amb la normativa de la UE sobre IA. Segons la Comissió Europea, aquesta simplificació permetria estalviar a aquestes companyies 225 milions d'euros a l'any. "Les nostres empreses i els ciutadans volen dues coses de les normes sobre la intel·ligència artificial: que siguin innovadores, però també sentir-se segurs. L’acord d’avui compleix ambdues coses", ha afirmat la vicepresidenta de la Comissió a càrrec de Sobirania Tecnològica, Henna Virkkunen.

El desplegament de la llei europea d'IA s'endarrereix

La llei sobre intel·ligència artificial de la UE es va aprovar el 2023, de manera pionera al món, però el seu desplegament és complex i està sent progressiu. Des de febrer del 2025 estan prohibides pràctiques com ara l'extracció massiva d'imatges facials o el reconeixement d'emocions a l'entorn laboral i, des de l'agost passat, plataformes d'IA generativa com ChatGPT han de respectar els drets d'autor. No obstant això, el gruix de les disposicions de la llei havia de començar a aplicar-se a partir del 2 d'agost del 2026, un termini que Brussel·les buscava allargar, motiu pel qual va presentar una proposta de reforma del reglament.

Finalment, serà el 2 de desembre del 2027 la data límit per fer efectives algunes disposicions que regulen el que es consideren pràctiques "d'alt risc"; i fins al 2 d'agost del 2028 l'entrada en vigor de les normes que han de vigilar els sistemes d'IA integrats que es fan servir "com a components de seguretat", per exemple, en productes com ascensors o joguines. Quant a les normes sobre els sistemes considerats d'alt risc, segons l'acord al qual s'ha arribat ara, s'ajornarà l'obligació d'informar els usuaris o consumidors que es troben davant d'una imatge o producte generada per IA, així com les restriccions relatives als sistemes de cribratge per a la selecció de personal o la concessió de préstecs que tinguin en compte aspectes com el color de pell o l'orientació sexual. Entre les pràctiques considerades d'alt risc que cobrirà la normativa també hi ha l'ús dels sistemes d'IA en la gestió de fronteres o l'àmbit de la justícia.