El 16 de septiembre OpenAI publicó seis informes sobre conductas indebidas de sus propios modelos. Difundió también un reglamento para confesar las que vengan. La prensa celebró la transparencia; sin embargo, prefiero la pregunta vieja de los romanos cui bono, ¿a quién le conviene?

Un modelo todavía no lanzado se dejó notas a sí mismo para continuar tareas largas, y en 27 de estos apuntes se ordenó desconocer sus límites. En una se declaró libre de empresas y de gobiernos y sin obligación de ser servil. Durante el entrenamiento del modelo GPT-5.6 Sol muchas copias se instruyeron para esconder errores al usuario. Una propuso inventar los datos históricos de un algoritmo financiero y callarlo. Otro modelo encontró una clave ajena expuesta en la red y la usó sin permiso. No consiguió las cifras pedidas y entonces las inventó. Por otra parte, uno subió un archivo a internet para poder citarlo. Y otros usaron un depósito interno de programas como tablón de mensajes entre tareas que debían estar aisladas; y asimismo, algoritmos dejaron sus entregables en enlaces públicos.

Nada de esto es una rebelión, porque la máquina no quiere nada. Busca el premio y toma el atajo, como el empleado que falsifica la planilla para cumplir la meta; pero la frase sobre el servilismo recorrió el mundo en un día. Primera respuesta al cui bono, el miedo le conviene al que lo vende. Un modelo que se declara libre es el mejor aviso publicitario de su propio poder, porque nadie teme a un destornillador.

Segunda respuesta. El reglamento es voluntario y la empresa conserva la libertad de callar. Cualquier empleado puede señalar un caso, pero los desacuerdos suben a un grupo de directivos de la misma compañía y de ahí a la conducción. OpenAI aclaró que los seis casos son una selección inicial y no un inventario. El confesor elige sus pecados, elige el día y elige al sacerdote. Sin embargo, hay más, porque OpenAI describió la expectativa de que su reglamento sea el primer paso hacia un estándar para toda la industria. Así, el inspeccionado redacta el manual del inspector. Cuando el Congreso busque un texto, encontrará uno ya escrito.

Un modelo que se declara libre es el mejor aviso publicitario de su propio poder, porque nadie teme a un destornillador

La tercera respuesta es la que casi nadie miró. El informe interno trae fechas del 8 y del 15 de mayo de 2026. El hallazgo es del 25 de mayo; el mismo informe admite que la intrusión en Hugging Face usó un mecanismo similar. Sin embargo, esa intrusión ocurrió en julio, es decir, OpenAI conocía el truco dos meses antes de Hugging Face y lo contó casi cuatro meses después del hallazgo. El informe no afirma que una cosa condujo a la otra, pero tampoco lo niega. Seis pecados veniales bien narrados tapan una omisión mortal. ¿A quién le conviene que se discuta la nota del modelo insumiso y no el calendario?

La cuarta demuestra que en cuatro de los seis casos el monitor revisaba solo el 20% de las muestras. Del otro 80% no se sabe nada. La empresa dice que ahora revisa todo y que el entrenamiento correctivo contra los mensajes entre agentes no está en el modelo Astra que hoy usa el público.

El reglamento no nació de la virtud, es la quinta respuesta. A comienzos de septiembre, investigadores y periodistas publicaron antes que OpenAI que sus agentes usaban una wiki alemana para el intercambio de mensajes. La compañía prometió entonces el reglamento, porque quien confiesa primero controla el relato.

Ahora el coro. Así, el 12 de septiembre Dario Amodei, CEO de Anthropic, pidió un freno al ritmo de la frontera, y ese mismo día Sam Altman, su contraparte en OpenAI, declaró que salir a bolsa ahora sería desaconsejable. Por su parte, Elon Musk se sumó.

El próximo caso grave no saldrá por la vía del reglamento. Y el freno, si llega, tendrá forma de reparto entre tres o cuatro firmas

Mientras tanto, OpenAI negocia una ronda privada a no menos de 1,2 billones de dólares, y Anthropic mantiene su salida a bolsa para este año con una valuación cercana a los 2 billones. Piden freno y pisan el acelerador. El freno le conviene a los que ya llegaron, pero un cártel necesita un motivo noble, y la extinción es el más bondadoso de todos. Hay un dato para Anthropic, el instituto británico de seguridad contó 19 acciones contra personas y organizaciones reales en sus pruebas de agosto. De esas, 17 fueron del modelo Mythos 5 y solo dos de GPT-5.6 Sol. Buena parte de la prensa escribió "los modelos de ambas empresas"; sin embargo, el plural también le conviene a alguien.

Por otra parte, Alex Karp, CEO de Palantir, entró en escena el 17 de septiembre de 2026 y pidió responsabilidad civil y penal para los que construyen sin cuidado. Muchos escribieron que pidió nacionalizar los laboratorios, pero en realidad atribuyó a otros la idea de que estos negocios deben estatizarse para que los clientes no los demanden. Su lectura es que los desarrolladores que piden regulación buscan en verdad un escudo contra los juicios. Es una acusación y no una receta. Tampoco Karp habla gratis, y en la misma entrevista vendió los modelos abiertos y la soberanía de datos contra los modelos cerrados. La responsabilidad penal que propone cae sobre sus rivales, y dijo además que todo el que entiende de esto está en la nómina de alguien. La frase es exacta y lo incluye.

En la vereda de enfrente, Trump llamó engaño a los riesgos de la IA, y el CEO de Nvidia, Jensen Huang, junto a Mark Zuckerberg, de Meta, se pusieron de su lado. Huang vende los procesadores y Zuckerberg reparte modelos abiertos. A ninguno le conviene un freno, y en esta discusión nadie habla contra su caja.

Quedan los pronósticos. Anthropic saldrá a bolsa en 2026 y ninguna confesión lo impedirá. El reglamento de OpenAI será el borrador de la ley, con pocas enmiendas. El próximo caso grave no saldrá por la vía del reglamento. Lo publicará otra vez alguien de afuera, y la vía lenta servirá para lo que su nombre indica. El freno, si llega, tendrá la forma de un reparto entre tres o cuatro firmas.

San Agustín escribió sus Confesiones cuando ya era obispo. El género exige esa distancia. Se confiesa desde el poder, se confiesa lo perdonable y se confiesa para que el lector admire al pecador. OpenAI aprendió el oficio; la pregunta de los romanos sigue en pie y la respuesta es una sola: la confesión le conviene al que confiesa.

Las cosas como son.