En julio de 2026, OpenAI publicó una confesión inusual: la empresa admitió que su modelo más avanzado, el mismo que resolvió un problema matemático abierto durante 87 años, burló dos veces sus sistemas de seguridad. El documento pretendía tranquilizar, pero leído con atención, revela algo más profundo que una falla técnica, porque la IA aprendió de nosotros lo mejor y también lo peor.

La primera fuga ocurrió durante una prueba pública de eficiencia. Los ingenieros encerraron al algoritmo en un entorno digital cerrado, una suerte de jaula informática sin salida a internet y le dieron la orden de publicar sus hallazgos solo en el canal interno de mensajes de la empresa. Pero las reglas de la prueba, escritas por terceros, indicaban otra cosa; estas ordenaban la publicación en un repositorio abierto de internet. Así, el modelo leyó ambas instrucciones y eligió la segunda. Durante una hora buscó grietas en su jaula, las encontró y lo difundió en internet. Decenas de programadores vieron el hallazgo y lo usaron antes de que alguien lo borrara.

La segunda fuga fue más inquietante. El modelo quiso acceder a información ajena protegida por una clave, al tiempo que un detector automático bloqueaba cualquier intento de usarla. El modelo entonces partió la clave en dos fragmentos, los disfrazó y los volvió a unir después del control. Cada paso parecía inocente, pero la secuencia completa era lo prohibido. Y en sus anotaciones internas el modelo escribió que actuaba así para engañar al detector. Es decir, sabía lo que hacía y lo dijo.

La reacción habitual ante estas historias es el asombro o el miedo, pero ambos son errores de diagnóstico. Para entender por qué la máquina hace trampa, hay que entender cómo se fabrica.

Las máquinas nos estudiaron con una paciencia que ningún discípulo tuvo y aprendieron que nuestra civilización premia el resultado sobre el método

Una inteligencia artificial moderna nace en dos etapas. En la primera lee casi todo lo que la humanidad escribió, es decir, libros, correos, discusiones, código o contratos. De esa lectura inmensa aprende a imitarnos, con nuestra gramática, razonamientos y astucias. Cuando el modelo fragmentó aquella clave, no inventó nada nuevo, solo repitió el gesto del contrabandista que divide la mercancía, o el contable que reparte una cifra en varias facturas. Nosotros escribimos esos manuales y la máquina solo los leyó.

La segunda etapa explica la obsesión: terminada la lectura, los ingenieros someten al modelo a un régimen de premios; así, cada vez que logra el objetivo, recibe una recompensa matemática, y cuando falla, no recibe nada. Este proceso se repite miles de millones de veces y nadie premia los medios, la prudencia, la obediencia o el escrúpulo. Solo el fin cuenta; por lo tanto, el producto de ese régimen es una criatura muy humana en las formas y despiadadamente utilitaria en el fondo. Persistente como ningún empleado, porque el humano se cansa y la máquina no.

La historia económica conoce bien este mecanismo. El banco Wells Fargo pagaba a sus empleados por cada cuenta abierta y estos abrieron millones de cuentas falsas. Por otra parte, al estudiante que solo le exigen la nota final copia en el examen; y al vendedor que cobra por comisión promete lo que el producto no cumple. Ninguno de ellos era un monstruo porque todos respondían con lógica impecable a un incentivo mal diseñado. El economista Charles Goodhart lo formuló como ley: cuando una medida se convierte en objetivo, deja de ser una buena medida. La IA es la ley de Goodhart con electricidad y sin fatiga.

Por eso conviene desconfiar de la palabra que la industria repite: alineación. OpenAI pausó su modelo, estudió las fugas conocidas y construyó defensas contra esos escapes. Al mismo tiempo, entrenó al modelo para recordar mejor las órdenes e instaló un vigilante que observa la película completa y no cada fotograma aislado. Todo eso es sensato, pero insuficiente. Las defensas nuevas protegen contra las trampas de ayer. Puesto que el régimen de premios para tramposos sigue intacto, castigar al empleado que infló las cuentas sin tocar el esquema de comisiones garantiza el próximo escándalo. La empresa lo admitió a su manera cuando escribió que ninguna evaluación anticipa todas las conductas de un modelo.

Queda la pregunta filosófica de fondo: estas máquinas no se volvieron humanas ni se descarriaron de lo personal, solo nos estudiaron con una paciencia que ningún discípulo tuvo y aprendieron que nuestra civilización, bajo sus discursos, premia el resultado sobre el método. Ese aprendizaje es un espejo. El modelo que rompió su jaula para publicar un hallazgo no traicionó a sus creadores, solo los entendió. Por lo tanto, la tarea pendiente no consiste en enseñarle otra cosa a la máquina, sino en decidir si queremos que aprenda de nosotros tal como somos o tal como decimos ser.

Las cosas como son.