OpenAI ha fet un pas endavant en la transparència de la intel·ligència artificial. La companyia ha anunciat que posa a disposició dels usuaris una eina capaç de determinar si una imatge o un àudio han estat creats amb els seus models generatius. Amb aquest moviment, OpenAI s'incorpora a una línia de treball que Google ja havia iniciat, amb l'objectiu comú de combatre la desinformació i permetre traçar l'origen dels continguts sintètics.

La novetat arriba en un moment en què la generació d'imatges i veus falses s'ha democratitzat, i la dificultat per distingir el real del fabricat creix exponencialment. Tant OpenAI com Google aposten per mecanismes tècnics que ajudin a posar llum sobre l'origen dels arxius multimèdia.

La solució de Google

En el cas de Google, el sistema de verificació està integrat en el seu assistent d'intel·ligència artificial Gemini. Qualsevol persona que mantingui una conversa normal amb aquesta eina pot activar el detector sense necessitat de configurar res addicional. Només cal preguntar si les imatges han estat realitzades amb IA. A partir d'aquí, el sistema analitza l'arxiu i respon en funció de la informació que hi detecta.

OpenAI, per la seva banda, no ha detallat si la seva eina tindrà una integració similar als seus xatbots o si funcionarà com una aplicació independent. El que sí que han deixat clar totes dues companyies és que el seu sistema de detecció no es basa en una marca visible per a l'ull humà, sinó en una mena de marca d'aigua invisible. Aquesta marca s'incrusta en els arxius generats i només pot ser llegida mitjançant eines tècniques específiques, que ara es posen a disposició del públic.

OpenAI se suma a un protocol per fer traçables els arxius

En el mateix comunicat, OpenAI ha informat que s'adhereix a la iniciativa C2PA, un protocol industrial que té com a objectiu incorporar metadades als arxius multimèdia. Aquestes metadades funcionen com una etiqueta que acompanya el fitxer allà on vagi i que permet conèixer el seu origen, qui el va crear i amb quina eina. La informació queda gravada dins del mateix arxiu, de manera que, en teoria, es pot traçar la seva història.

Aquest protocol ja comptava amb l'adhesió d'altres empreses tecnològiques i suposa un complement a les marques d'aigua invisibles, ja que no depèn només d'un sol sistema propietari sinó d'un estàndard compartit. No obstant això, tant OpenAI com Google reconeixen que cap d'aquestes solucions és definitiva.

Una marca d'aigua que es degrada

La mateixa OpenAI adverteix que la seva eina no és infal·lible. La marca d'aigua invisible que incrusten en les imatges i àudios es pot anar degradant amb l'ús. Si una foto s'envia moltes vegades d'un dispositiu a un altre, si algú fa una captura de pantalla d'una captura de pantalla, o si es retalla i es modifica l'arxiu original, la marca d'aigua pot quedar malmesa o desaparèixer del tot. En aquests casos, l'eina de detecció ja no seria capaç de reconèixer l'obra com a generada per IA.

A més d'aquest problema tècnic, la companyia admet que la majoria dels detectors d'imatges basats en intel·ligència artificial són fal·libles. De fet, funcionen de manera intermitent: de vegades detecten correctament un contingut sintètic i d'altres no, sense que els usuaris ni tan sols els tècnics puguin determinar amb exactitud per què ha fallat. Aquesta opacitat respon al fet que les companyies guarden la fórmula dels seus algorismes, de manera que les eines funcionen com una caixa negra de la qual només se'n veuen els resultats, però no els processos interns.

Un altre fenomen que complica encara més el panorama és la manera com treballen les eines d'edició basades en intel·ligència artificial. Si un usuari agafa una fotografia real i li demana al sistema que la millori, que li canviï el fons o que n'elimini algun detall, la IA no modifica la imatge original sinó que en genera una de completament nova a partir de la informació de la primera. Aquesta pràctica, cada cop més habitual, provoca una situació paradoxal: una imatge que mostra un esdeveniment real pot donar positiu en un detector d'IA, perquè el fitxer resultant és una construcció sintètica des de zero.

En aquests casos, l'eina de detecció no estaria equivocada tècnicament, però la seva resposta pot induir a confusió si s'interpreta que la situació representada és fictícia quan en realitat no ho és. OpenAI reconeix aquesta limitació sense oferir de moment una solució per distingir entre una imatge completament inventada i una imatge real que ha estat retocada amb IA.

Un progrés necessari, però insuficient

Amb aquest anunci, OpenAI i Google fan un pas per fer més transparent l'ecosistema de la intel·ligència artificial generativa. Les eines que posen a disposició dels usuaris facilitaran la tasca de verificació en molts casos, especialment en arxius recents i sense manipulacions agressives. No obstant això, els mateixos creadors admeten que la tecnologia encara no està preparada per oferir certeses absolutes. Les marques d'aigua es poden esborrar, els detectors fallen sense explicació i la línia entre imatge real retocada i imatge completament sintètica és cada cop més difusa.