La promesa fundacional d'internet va ser apropar les persones i construir una comunitat global. La integració massiva de la intel·ligència artificial (IA) introdueix una variable que altera aquest pacte silenciós. En lloc de consolidar la connexió, multiplica una crisi de credibilitat documentada per agències estatals, consultores financeres i firmes de verificació d'identitat. Les dades disponibles permeten dimensionar el fenomen amb xifres concretes. La Comissió Federal de Comerç dels Estats Units va publicar el seu informe anual Consumer Sentinel Network corresponent al 2024 i registra $12 mil milions de dòlars en pèrdues declarades per frau, un augment del 25% respecte a l'any previ. Els fraus per suplantació d'identitat van concentrar $2.950 milions. La categoria d'impostors que es fan passar per funcionaris estatals va passar d'un cost de $171 milions de dòlars el 2023 a $789 milions el 2024.
L'FBI manté un registre paral·lel a través de l'Internet Crime Complaint Center. El seu informe corresponent al 2025 va comptabilitzar $20.900 milions de dòlars en pèrdues per delictes cibernètics, dels quals 893 milions van provenir de fraus vinculats a IA. Els adults majors de seixanta anys van aportar 352 milions d'aquesta última xifra. Deloitte estima que el frau facilitat per IA generativa passarà de $12.300 milions de dòlars el 2023 a $40.000 milions el 2027 només als Estats Units. La taxa composta anual de creixement se situa en 32 %. Sumsub, firma de verificació d'identitat digital, documenta un augment de quatre vegades en deepfakes detectats entre el 2023 i el 2024. Aquests representen el 7% del total d'intents de frau a escala global. El primer trimestre del 2025 va mostrar un salt addicional del 700% interanual.
Com funciona l'eina
La paraula deepfake no tradueix els termes profund i fals, com es repeteix amb freqüència, sinó que combina deep learning, una tècnica de xarxes neuronals artificials basades en aprenentatge automàtic, amb fake. El terme va sorgir el 2017 en un fòrum del lloc Reddit. El sistema aprèn de milions d'exemples fins a produir resultats indistingibles d'un registre autèntic. La clonació de veu requereix mostres mínimes i plataformes comercials com MiniMax Audio o ElevenLabs ofereixen clonació instantània a partir de deu segons d'àudio net. Serveis gratuïts redueixen el llindar a tres segons. Un missatge de WhatsApp, una intervenció en xarxes socials o una salutació en una bústia de veu arriben per construir un model funcional. Una enquesta global de McAfee va mostrar que el 70% dels participants no va aconseguir distingir entre una veu clonada per IA i una veu original.
El cas paradigmàtic
El gener de 2024, un empleat de l'oficina de Hong Kong de la firma britànica d'enginyeria Arup va rebre un correu electrònic aparentment signat pel director financer de la companyia. La instrucció esmentava una transacció confidencial. L'empleat va dubtar i va considerar cancel·lar l'operació; tanmateix, per dissipar la seva sospita, els estafadors el van convidar a una videoconferència amb diversos col·legues. Tots els participants en pantalla eren recreacions sintètiques generades per IA. L'empleat va autoritzar quinze transferències per un total equivalent a $25,6 milions de dòlars estatunidencs. La investigació seguia oberta a principis de 2025 i cap dels fons va ser recuperat.
El patró es repeteix en escala domèstica. Sharon Brightwell, una jubilada resident a Dover, Florida, va transferir $15.000 després de reconèixer la veu exacta de la seva filla demanant ajuda. Tanmateix, era una clonació construïda a partir de material publicat en xarxes socials. L'FBI classifica aquesta modalitat com a virtual kidnapping, segrest virtual per la seva traducció literal. El fenomen té actors recognoscibles. La cadena inclou desenvolupadors de models generatius, plataformes comercials de síntesi i un mercat paral·lel de serveis fraudulents. Entre els desenvolupadors figuren OpenAI, Stability AI, ElevenLabs, MiniMax i els laboratoris de recerca de Meta i Google. Les plataformes de clonació obertes al públic sumen a Resemble AI, Speechify i Vocloner.
El segment il·lícit opera sota el rètol Fraud-as-a-Service. Sumsub va documentar que una inversió inicial de mil dòlars en eines de frau sintètic genera pèrdues potencials per valor de 2,5 milions de dòlars mensuals per als negocis atacats. Crear una falsificació sintètica costa amb prou feines uns centaus de còmput. Tanmateix, detectar-la, prevenir-la i litigar-la costa ordres de magnitud més. La FTC va llançar el 2024 el Voice Cloning Challenge i va aplicar la Telemarketing Sales Rule a les trucades amb veu sintètica. Europol va publicar guies específiques per a les forces policials. Per la seva banda, la Unió Europea va avançar amb l'AI Act, que exigeix etiquetatge de contingut sintètic. Cap d'aquestes mesures conté el ritme del creixement.
Les defenses tècniques existeixen
La Coalition for Content Provenance and Authenticity, coneguda com a C2PA, desenvolupa un estàndard obert les Content Credentials del qual afegeixen metadades signades criptogràficament a l'arxiu. La seva versió 2.1 combina les metadades amb marques d'aigua digitals, cosa que permet recuperar la procedència fins i tot si les metadades són eliminades durant la distribució. Google DeepMind desenvolupa SynthID, un sistema de marques d'aigua invisibles per a contingut sintètic. OpenAI planeja aplicar Content Credentials a les generacions del seu model de vídeo Sora. L'Agència de Seguretat Cibernètica del Departament de Defensa dels Estats Units va recolzar aquesta tecnologia el gener de 2025. L'asimetria persisteix perquè els models generatius milloren contínuament i els sistemes de detecció reactiva perden la cursa davant el ritme dels generadors.
La distribució del dany no és uniforme. Les dades de la FTC per al 2025 mostren que les persones majors de cinquanta anys van perdre 4.300 milions de dòlars per frau, mentre que els menors d'aquesta edat van perdre 2.300 milions. Les pèrdues superiors a cent mil dòlars declarades per majors de seixanta anys van créixer vuit vegades entre el 2020 i el 2024, des de 55 milions fins a 445 milions de dòlars anuals. El patró resulta consistent amb la disponibilitat pública de mostres vocals en xarxes socials i amb la combinació emocional d'urgència i autoritat familiar. Sumsub documenta un augment del 194% interanual en deepfakes detectats a Àsia-Pacífic durant el 2024, amb el Brasil registrant taxes cinc vegades superiors als Estats Units en el primer trimestre del 2025.
La discussió tècnica avança més ràpidament que la cultural. Les dades sobre l'èxit dels atacs per suplantació convergeixen en una observació comuna: el reconeixement emocional immediat suspèn l'escrutini racional. El cervell no processa una veu familiar com a evidència auditiva, sinó com a confirmació d'identitat. Aquesta heurística va servir a l'espècie humana durant mil·lennis. La IA generativa la converteix en superfície d'atac econòmicament rendible. La xifra de Deloitte per al 2027 marca l'horitzó quantificable amb 40.000 milions de dòlars anuals en fraus facilitats per IA generativa, només als Estats Units i només dins del sistema financer. La crisi té actors identificables, eines disponibles i víctimes localitzables, però l'únic que falta és una resposta proporcional al ritme de l'amenaça.
Les coses com són