A finals de juliol de 2026, Google va incorporar a Google Earth una funció d'intel·ligència artificial que converteix una imatge sobre el mapa real en una frase escrita. És a dir, n'hi havia prou amb demanar un cràter de bomba a Gaza o una planta nuclear a l'Iran per obtenir-los amb les coordenades veritables, la llum correcta i l'angle exacte del lloc. Aquesta representació va néixer d'una realitat. Així, en menys d'un dia els usuaris van fabricar guerres que no van existir i Google va retirar l'eina amb una disculpa breu. L'episodi va durar poc, però permet entendre dos mals que defineixen aquesta època. Un és la pressa, l'altre és l'ancoratge.

Les grans empreses tecnològiques competeixen per dominar la IA i es castiga la demora més que l'error. El fenomen ocorre sobretot en els productes per al públic general, on cada usuari funciona com un avaluador gratuït. En els sistemes que es venen a bancs, hospitals o estudis d'advocats, l'error costa contractes i judicis, i per això allà les empreses revisen amb cura. Amb el públic, el compte és un altre. El novembre de 2022, Meta, la propietària de Facebook, va presentar Galàctica, un sistema per redactar textos científics que inventava estudis amb perfecta aparença acadèmica, i el va retirar al cap de tres dies.

Google va aportar després la sèrie més constant. El febrer de 2023 va llançar el seu assistent Bard per respondre a l'èxit de ChatGPT; el vídeo de presentació va contenir una dada falsa i l'empresa va perdre 100.000 milions de dòlars de valor borsari en hores. Després es va saber que empleats propis van advertir que el sistema mentia i van demanar no llançar-lo. El febrer de 2024, el seu generador d'imatges va produir escenes històriques absurdes i el cap de la companyia va prometre revisions més rigoroses.

Mesos més tard, el seu cercador va recomanar posar pega a la pizza. I el juliol de 2026 va arribar el de Google Earth. En pocs anys es va acumular una cadena de fallades públiques, totes seguides per la mateixa promesa de revisió davant la qual després apareixia un defecte següent. La pressa no és un descuit, sinó una estratègia, i l'aritmètica que la sosté és simple. El cost reputacional d'un fallit es dilueix i s'oblida en setmanes. No obstant això, arribar segon en aquesta cursa no es recupera mai. Mentre aquest compte doni així, les empreses triaran el defecte abans que demorar-se.

Una mentida solta val poc perquè ningú la creu, però una instal·lada dins d'alguna cosa fiable val molt perquè hereta la fiabilitat de l'envàs. A això anomeno ancoratge; és l'engany modern; ja no fabrica proves. Segresta les que ja respectàvem. El maig de 2023, una imatge falsa va mostrar una explosió al costat del Pentàgon, la seu militar dels Estats Units. La foto sola no enganyava ningú, però la va difondre un compte que fingia ser de l'agència de notícies Bloomberg i lluïa la insígnia de compte verificat. La borsa de Nova York va caure durant uns minuts. Mentrestant, l'àncora no va ser la foto, sinó la insígnia.

El gener de 2024, un empleat financer de la firma d'enginyeria Arup va rebre a Hong Kong un correu que demanava una transferència secreta. Aquest va sospitar, com correspon. Llavors el van convidar a una videotrucada on va veure i va sentir el director financer i diversos col·legues que coneixia. Tots eren rostres i veus fabricats per IA a partir de vídeos públics. L'empleat va transferir 25,6 milions de dòlars en 15 operacions i res es va recuperar. La seva prudència va funcionar davant el correu i es va rendir davant el rostre, perquè durant tota la història comercial la frase vaig parlar amb ell va ser la prova màxima de veritat. El frau no venç els controls perquè es muda dins de les confirmacions.

Els dos mals semblen independents, però formen un sol mecanisme. La pressa produeix els errors i l'ancoratge multiplica el seu impacte. Un producte defectuós que ningú usa causa un dany petit. La destrucció apareix quan aquesta fallada s'instal·la en un sistema on el públic ja diposita la seva confiança.

Això va ser Google Earth; l'empresa va muntar una fàbrica de falsificacions dins del mapa que periodistes i investigadors van usar durant 20 anys precisament per comprovar si altres imatges eren certes. Cada fotografia inventada heretava dues dècades de credibilitat aliena. Per la seva banda, Google es va defensar amb dos arguments. Va dir que cada imatge portava una marca d'aigua invisible que la identificava com a artificial, i que les imatges creades no apareixien al mapa que veuen els altres usuaris, sinó només a la pantalla de qui les fabricava.

Aquesta defensa és feble per partida doble. Gairebé ningú verifica una imatge mentre la mira de passada al telèfon, i la marca d'aigua exigeix que l'escèptic faci un tràmit que el crèdul mai farà. A més, exigeix que la imatge no visqui al mapa aliè; importa poc, perquè al falsificador n'hi ha prou amb una captura de pantalla per deixar-la anar al món amb el segell visual de Google Earth a sobre.

La responsabilitat per com es frena això està lluny del mercat, perquè aquest premia el primer. Així mateix, les promeses internes són inútils, perquè la cadena de fallades prova que s'incompleixen. Cada eina llançada sense revisar acaba inserida en algun lloc on la gent encara creu, i converteix aquest lloc en territori sospitós. La IA ja no necessita mentir bé; només n'hi ha prou amb mentir des de dins del que era veritat. La confiança triga dècades a acumular-se i es gasta en hores.

Les coses com són.