Els estats membres de la Unió Europea han donat llum verda a la reforma de la legislació comunitària sobre intel·ligència artificial, incorporant una disposició impulsada per l'Estat que prohibeix els sistemes capaços de generar contingut sexual o íntim sense el consentiment de les persones afectades, així com el material d'abús sexual infantil. Aquesta decisió s'emmarca en el procés de revisió de la normativa europea i suposa un pas endavant en la regulació d'aquestes tecnologies emergents.
La proposta espanyola ha sorgit arran de la polèmica generada per l'assistent de la xarxa social X, conegut com a Grok, que va permetre la creació d'imatges nues de dones i menors sense el seu consentiment. La iniciativa ha comptat amb el suport de França, Alemanya, Irlanda, Eslovènia, Bèlgica, Eslovàquia i Hongria, configurant un front comú suficient per tirar endavant la mesura.
L'abast de les noves prohibicions
El text acordat al Consell de la UE incorpora dos nous supòsits de sistemes d'intel·ligència artificial prohibits. D'una banda, s'inclouen aquells sistemes que puguin generar, manipular o reproduir imatges, vídeos o àudios realistes, coneguts com a deepfakes, de parts íntimes o que identifiquin persones en activitats sexuals sense el consentiment exprés de la persona afectada. De l'altra, es prohibeixen els sistemes capaços de generar, manipular o reproduir pornografia infantil, una mesura que reforça la protecció dels menors en l'entorn digital.
Aquesta reforma respon a la necessitat d'adaptar la legislació a les noves realitats tecnològiques i als riscos que comporten per als drets fonamentals. La generació d'imatges falses amb contingut sexual sense consentiment s'ha convertit en una pràctica creixent que afecta especialment les dones i les nenes, i que requereix una resposta contundent per part de les institucions.
El calendari d'aplicació
Els membres del consell han acordat també un calendari definitiu per a l'aplicació ajornada de les normes relatives als sistemes d'intel·ligència artificial considerats d'alt risc. La primera data assenyalada és el 2 de desembre del 2027, moment en què seran plenament aplicables les obligacions per als sistemes d'IA d'alt risc independents.
La segona data és el 2 d'agost del 2028, quan entraran en vigor les normes per als sistemes d'intel·ligència artificial d'alt risc integrats en productes subjectes a altres regulacions europees. Aquest calendari esglaonat respon a la complexitat tècnica i organitzativa que comporta l'adaptació a les noves exigències normatives, i pretén donar temps suficient tant a les empreses com a les administracions públiques per preparar-se adequadament.
El registre obligatori de sistemes d'alt risc
El mandat del Consell restableix, a més, l'obligació que els proveïdors registrin els sistemes d'intel·ligència artificial a la base de dades de la Unió Europea per als sistemes considerats d'alt risc. Aquesta obligació s'aplica fins i tot en aquells casos en què els proveïdors considerin que els seus sistemes estan exempts d'aquesta classificació, introduint un element de control addicional que reforça la capacitat supervisora de les autoritats comunitàries. Aquesta mesura pretén evitar buits legals i garantir que tots els sistemes que puguin tenir un impacte significatiu en els drets de les persones estiguin degudament identificats i subjectes a supervisió.
Un cop aconseguit l'acord al Consell de la UE, la norma haurà de superar ara un nou tràmit parlamentari abans de la seva aprovació definitiva. El text pactat pels estats membres es debatrà al Parlament Europeu, on haurà de rebre el vistiplau de l'Eurocambra per poder entrar en vigor. Aquest procés pot comportar noves modificacions i negociacions entre les diferents institucions comunitàries, en un exercici de diàleg legislatiu que caracteritza el funcionament de la Unió Europea.
Les implicacions per als proveïdors de tecnologia
L'aprovació d'aquesta reforma tindrà implicacions significatives per a les empreses que desenvolupen o comercialitzen sistemes d'intel·ligència artificial a la Unió Europea. Els proveïdors hauran d'assegurar-se que els seus productes no incorren en cap de les pràctiques prohibides, la qual cosa comportarà la necessitat de revisar els algoritmes i els sistemes de generació de contingut per garantir que no poden ser utilitzats per crear imatges o vídeos sexuals sense consentiment. La normativa pretén establir un equilibri entre la innovació tecnològica i la protecció dels drets fonamentals, evitant que el desenvolupament de la intel·ligència artificial es faci a costa de la privacitat i la dignitat de les persones.
L'objectiu final d'aquesta reforma és reforçar la protecció de les persones davant usos maliciosos de la intel·ligència artificial, especialment en àmbits tan sensibles com la intimitat sexual. La generació d'imatges falses amb contingut sexual sense consentiment constitueix una vulneració greu dels drets fonamentals, que pot tenir conseqüències devastadores per a les víctimes, afectant la seva salut mental, la seva reputació i la seva vida personal i professional.
Amb l'acord assolit avui al Consell, la Unió Europea fa un pas decisiu per tancar les escletxes legals que permetien l'ús abusiu de la intel·ligència artificial per generar contingut sexual no consentit. El camí encara no ha finalitzat, atès que la norma haurà de superar el debat al Parlament Europeu, però la direcció està clara: Europa aposta per una intel·ligència artificial ètica, centrada en les persones i respectuosa amb els drets fonamentals. La resposta a l'escàndol de Grok pot acabar convertint-se en un precedent normatiu de gran abast per a altres jurisdiccions.