A ningú assenyat se li ocorreria donar a un nouvingut, per brillant que sigui, les claus de l'oficina, la contrasenya d'administrador i el correu de l'empresa el seu primer dia. Primer observes com treballa, li dones accés a tot el que necessita i vas ampliant la confiança a mesura que se la guanya. És sentit comú i fa dècades que funciona. Amb la intel·ligència artificial estem fent just el contrari. L'acabem de conèixer, ens ha enlluernat a la demo i li estem obrint les dades, els sistemes i els processos que acaben parlant en nom de la marca. Tot alhora, confiant que es porti bé. Entenc la temptació. Qui et ven IA et parla del que produeix. Textos, idees, anàlisis, una velocitat que enganxa des del primer dia. I tot això és veritat.

Ho he mesurat i defenso la seva adopció amb dades al davant. Però qui la posa en sistemes reals aprèn a pensar també en el que pot torçar-se. Una dada de client que acaba on no havia d'anar. Un biaix que ningú va mirar a temps i que es repeteix en cada resposta, sempre en la mateixa direcció. Una instrucció camuflada dins d'un correu o un document que el sistema llegeix i obeeix sense preguntar, perquè per a un model no hi ha diferència entre el text que analitza i l'ordre que rep.

Aquesta última situació descriu una de les tècniques d'atac més actives del moment i moltes de les empreses que estan desplegant IA encara no la tenen en el radar. Ho vaig poder veure de prop en tancar el primer pilot intern d'IA a la nostra organització. Desenes de persones de totes les àrees usant aquestes eines en el seu treball real, amb cada cas mesurat un a un. Els resultats de productivitat van ser millors del que esperàvem, però la dada que més em va fer pensar va ser una altra. La gent valorava molt alt la qualitat del que produïa l'eina i, al mateix temps, se'n fiava bastant menys. La usaven amb el dit a sobre del botó, revisant abans de donar res per bo.

Per a mi, aquesta desconfiança va ser la millor notícia del pilot. Significa que la cultura va per davant de l'eina. I aquí hi ha la pista de per on ha d'anar tota la resta. Perquè en marca no hi ha segona decisió. Una marca s'aixeca a base d'anys de petites decisions coherents i s'erosiona en molt menys temps del que costa admetre. El risc de la IA no és tant la fallada aïllada com l'automatització mal dissenyada repetint el mateix error amb el teu logo al costat, a escala i sense que ningú se n'assabenti fins que és tard. La reputació és d'aquestes poques coses que costa una dècada construir i molt poc tirar. Per això no em crec la "IA responsable" dels comitès ni la de les bones intencions signades en un PDF que ningú torna a obrir. Aquesta versió converteix la responsabilitat en un tràmit i els tràmits no aturen un incident. Per a mi és una decisió d'arquitectura, tan bàsica com xifrar una base de dades o tenir còpies de seguretat. Ningú discuteix avui aquestes dues coses. Són la condició perquè la resta existeixi. La responsabilitat no és la capa bonica que afegeixes al final. És el fonament. O hi és, o no hi ha res que sostingui la resta.

A la pràctica, això significa partir de la desconfiança i no de la fe. Ho vam escriure en un procediment d'ús abans d'escalar, i cada punt respon a un risc concret. En tot el que toca a reputació o decisions de negoci rellevants, el model proposa i la persona decideix. Al correu, que és on més fàcil te la jugues perquè un enviament no es pot desfer, no li deixem enviar res. Redacta esborranys i allà es queda. Cada integració s'avalua pel seu risc abans d'activar-se, no després del primer problema. Tot deixa registre, perquè tard o d'hora algú preguntarà què va fer el sistema i per què. I res s'obre de cop. Anem per fases, amb un punt clar en cadascuna per decidir si seguim o frenem. Frenar també és una decisió d'enginyeria.

La part avorrida d'aquesta història és que les decisions que de veritat protegeixen una marca gairebé mai són les vistoses. No és el prompt enginyós ni l'agent espectacular de la demo. És saber quina informació no toca mai un model de fora. És decidir què connectes avui i què espera el seu torn. És tenir pensat amb antelació què fas el dia que el sistema s'equivoqui. Perquè s'equivocarà. La pregunta no és si fallarà, és si la fallada es quedarà en anècdota o sortirà a la premsa.

Sé que algú llegirà això i pensarà que hi ha empreses traient valor de la IA sense res de l'anterior. És cert. Igual que hi ha qui condueix anys sense cinturó i no li passa res. Aquest valor dura exactament fins al primer ensurt. La governança no garanteix que no hi hagi incidents. Garanteix que quan arribin, i arribaran, no escombrin anys de confiança. Les empreses que entenguin això no aniran més a poc a poc. Aniran més ràpidament, perquè podran recolzar-se en el que han construït sense por que cedeixi. Qui veu la governança com un fre ho entén al revés. Sense governança no hi ha IA que valgui.