En un entorn digital on la frontera entre el real i el sintètic es desdibuixa a velocitat de vertigen, l'aparició dels denominats deepfakes ha inaugurat una nova era de riscos per a la integritat personal. La possibilitat que la imatge, la veu o fins i tot els gestos de qualsevol individu siguin replicats i manipulats per crear escenaris ficticis, sovint lesius, planteja un desafiament monumental per als sistemes legals, les plataformes digitals i la societat en conjunt.
Aquesta tecnologia, les aplicacions legítimes de la qual en cinema o publicitat són inqüestionables, es converteix en una arma de destrucció reputacional quan s'empra amb finalitats il·lícites. Els casos de suplantació d'identitat per a fraus financers, la creació de material sexual explícit no consentit o la difusió de declaracions falses amb l'objectiu de desacreditar figures públiques o privades, són només la punta de l'iceberg d'un fenomen en expansió.
L'ordenament jurídic espanyol, encara que no preveu de forma explícita el terme deepfake, desplega un arsenal normatiu per protegir les víctimes. La columna vertebral d'aquesta protecció s'asseu en drets fonamentals reconeguts a la Constitució: el dret a l'honor, a la intimitat personal i familiar i a la pròpia imatge. La seva vulneració mitjançant la creació o difusió de continguts manipulats constitueix una intromissió il·legítima, tal com desenvolupa la Llei Orgànica 1/1982 de protecció civil del dret a l'honor, a la intimitat personal i familiar i a la mateixa imatge. Des de l'àmbit penal, la manipulació maliciosa amb IA pot encaixar en diversos tipus delictius. El Codi Penal sanciona amb severitat el descobriment i revelació de secrets quan s'utilitzen imatges o veus obtingudes d'àmbits privats. Així mateix, la difusió de continguts falsos que danyin greument la dignitat o el crèdit d'una persona pot constituir delicte d'injúries o calúmnies.
Escenaris més greus, com les amenaces o l'extorsió per evitar la publicació d'un deepfake, o la creació de material sexual no consentit, estan tipificats amb penes de presó, fins i tot quan no hi hagi un contacte físic previ. La protecció es reforça amb el Reglament General de Protecció de Dades (RGPD), que considera la imatge i la veu dades personals de caràcter especialment protegit. El seu tractament sense una base legal que el legitimi és il·legal. Aquesta normativa atorga als afectats el potent "dret a l'oblit", cosa que permet sol·licitar la desindexació dels continguts en cercadors i la seva eliminació de les plataformes.
El protocol d'actuació
Davant la detecció d'un contingut manipulat, la celeritat en la resposta és determinant per mitigar el dany. Els experts delineen un protocol d'actuació estructurat en diverses fases crítiques. La primera etapa, fonamental, és la recollida probatòria. Es recomana realitzar captures de pantalla, descàrregues del vídeo (si és possible) i documentació exhaustiva de les URL, perfils implicats, dates i metadades. Per dotar aquestes proves de màxima validesa jurídica, s'aconsella l'ús d'eines de certificació digital, que acrediten l'autenticitat i inalterabilitat de l'evidència en un moment concret.
Paral·lelament, s'ha d'iniciar la notificació a les plataformes on s'allotja o distribueix el contingut. La Llei de Serveis de la Societat de la Informació estableix un mecanisme de notificació i retirada, obligant els prestadors a actuar amb diligència una vegada tenen coneixement efectiu de la il·licitud del material. Aquesta comunicació ha de ser formal, clara i basada en la legislació aplicable, especialment invocant el RGPD.
La presentació de denúncia davant les Forces i Cossos de Seguretat de l'Estat és el següent esglaó. Unitats especialitzades en delictes tecnològics, com la Brigada d'Investigació Tecnològica de la Policia Nacional o el Grup de Delictes Telemàtics de la Guàrdia Civil, posseeixen els recursos tècnics per començar una investigació que pot rastrejar l'origen de la difusió. Donada la complexitat tècnica i legal d'aquests casos, el consell d'un advocat especialitzat en dret digital i noves tecnologies es revela no només útil, sinó imprescindible. Un professional pot coordinar l'estratègia global, des de la sol·licitud de mesures cautelars judicials urgents per a la retirada immediata del contingut, fins a la quantificació i reclamació d'una eventual indemnització pels danys morals i patrimonials patits.
La cooperació internacional i l'alfabetització digital
El caràcter global d'internet afegeix una capa de complexitat addicional. Els continguts poden ser allotjats en servidors de jurisdiccions llunyanes, cosa que exigeix mecanismes àgils de cooperació internacional i l'actuació coordinada davant les seus centrals de les grans plataformes tecnològiques, que solen respondre a les resolucions d'autoritats com l'Agència Espanyola de Protecció de Dades (AEPD). Més enllà de la resposta legal, sorgeix amb força la necessitat d'una alfabetització digital crítica a escala social.
Cal reconèixer els potencials senyals d'un deepfake i fomentar una cultura de verificació de fonts abans de compartir informació, s'erigeixen en barreres de contenció essencials. En conclusió, la manipulació malintencionada de la identitat mitjançant intel·ligència artificial representa un dels reptes més significatius de la convivència digital. La resposta eficaç requereix una combinació d'aplicació rigorosa i adaptada del marc legal existent, la cooperació efectiva amb el sector tecnològic, l'especialització dels operadors jurídics i una ciutadania informada i proactiva. La defensa de la identitat personal al segle XXI passa, inexorablement, per guanyar aquesta batalla tecnològica i ètica.