A nadie sensato se le ocurriría darle a un recién llegado, por brillante que sea, las llaves de la oficina, la contraseña de administrador y el correo de la empresa en su primer día. Primero observas cómo trabaja, le das acceso a lo que necesita y vas ampliando la confianza a medida que se la gana. Es sentido común y lleva décadas funcionando. Con la inteligencia artificial estamos haciendo justo lo contrario. La acabamos de conocer, nos ha deslumbrado en la demo y le estamos abriendo los datos, los sistemas y los procesos que terminan hablando en nombre de la marca. Todo a la vez, confiando en que se porte bien. Entiendo la tentación. Quien te vende IA te habla de lo que produce. Textos, ideas, análisis, una velocidad que engancha desde el primer día. Y todo eso es verdad.

Lo he medido y defiendo su adopción con datos delante. Pero quien la mete en sistemas reales aprende a pensar también en lo que puede torcerse. Un dato de cliente que acaba donde no debía. Un sesgo que nadie miró a tiempo y que se repite en cada respuesta, siempre en la misma dirección. Una instrucción camuflada dentro de un correo o un documento que el sistema lee y obedece sin preguntar, porque para un modelo no hay diferencia entre el texto que analiza y la orden que recibe.

Esa última situación describe una de las técnicas de ataque más activas del momento y muchas de las empresas que están desplegando IA todavía no la tienen en el radar. Lo pude ver de cerca al cerrar el primer piloto interno de IA en nuestra organización. Decenas de personas de todas las áreas usando estas herramientas en su trabajo real, con cada caso medido uno a uno. Los resultados de productividad fueron mejores de lo que esperábamos, pero el dato que más me hizo pensar fue otro. La gente valoraba muy alto la calidad de lo que producía la herramienta y, al mismo tiempo, se fiaba bastante menos. La usaban con el dedo encima del botón, revisando antes de dar nada por bueno.

Para mí, esa desconfianza fue la mejor noticia del piloto. Significa que la cultura va por delante de la herramienta. Y ahí está la pista de por dónde tiene que ir todo lo demás. Porque en marca no hay segunda toma. Una marca se levanta a base de años de pequeñas decisiones coherentes y se erosiona en mucho menos tiempo del que cuesta admitir. El riesgo de la IA no es tanto el fallo aislado como la automatización mal diseñada repitiendo el mismo error con tu logo al lado, a escala y sin que nadie se entere hasta que es tarde. La reputación es de esas pocas cosas que cuesta una década construir y muy poco tirar. Por eso no me creo la “IA responsable” de los comités ni la de las buenas intenciones firmadas en un PDF que nadie vuelve a abrir. Esa versión convierte la responsabilidad en un trámite y los trámites no paran un incidente. Para mí es una decisión de arquitectura, tan básica como cifrar una base de datos o tener copias de seguridad. Nadie discute hoy esas dos cosas. Son la condición para que lo demás exista. La responsabilidad no es la capa bonita que añades al final. Es el cimiento. O está, o no hay nada que sostenga lo demás.

En la práctica, eso significa partir de la desconfianza y no de la fe. Lo escribimos en un procedimiento de uso antes de escalar, y cada punto responde a un riesgo concreto. En todo lo que toca a reputación o decisiones de negocio relevantes, el modelo propone y la persona decide. Al correo, que es donde más fácil te la juegas porque un envío no se puede deshacer, no le dejamos enviar nada. Redacta borradores y ahí se queda. Cada integración se evalúa por su riesgo antes de activarse, no después del primer problema. Todo deja registro, porque tarde o temprano alguien va a preguntar qué hizo el sistema y por qué. Y nada se abre de golpe. Vamos por fases, con un punto claro en cada una para decidir si seguimos o frenamos. Frenar también es una decisión de ingeniería.

La parte aburrida de esta historia es que las decisiones que de verdad protegen una marca casi nunca son las vistosas. No es el prompt ingenioso ni el agente espectacular de la demo. Es saber qué información no toca jamás un modelo de fuera. Es decidir qué conectas hoy y qué espera su turno. Es tener pensado de antemano qué haces el día que el sistema se equivoque. Porque se va a equivocar. La pregunta no es si fallará, es si el fallo se quedará en anécdota o saldrá en la prensa.

Sé que alguien leerá esto y pensará que hay empresas sacando valor de la IA sin nada de lo anterior. Es cierto. Igual que hay quien conduce años sin cinturón y no le pasa nada. Ese valor dura exactamente hasta el primer susto. La gobernanza no garantiza que no haya incidentes. Garantiza que cuando lleguen, y llegarán, no se lleven por delante años de confianza. Las empresas que entiendan esto no van a ir más despacio. Van a ir más rápido, porque podrán apoyarse en lo que han construido sin miedo a que ceda. Quien ve la gobernanza como un freno lo entiende al revés. Sin gobernanza no hay IA que valga.