El martes 8 de septiembre, OpenAI anunció que un sistema interno suyo, formado por diez mil agentes autónomos, había resuelto uno de los llamados "problemas del milenio": las ecuaciones de Navier-Stokes, que describen el movimiento de los fluidos y que el Instituto Clay incluyó en el año 2000 en su lista de siete enunciados dotados con un millón de dólares cada uno. Sin querer menospreciar a los señores Navier y Stokes, y desde la incomprensión absoluta de la cuestión por parte de quien escribe estas líneas, que repitió la asignatura de matemáticas, la trascendencia del episodio no radica en la hidrodinámica, sino en tres elementos que rodean el periplo. El primero: el modelo informático que dirigía a los agentes no está disponible al público y, según la misma empresa, es significativamente más capaz que el que cualquiera de nosotros puede utilizar hoy. El segundo: la garantía de que la demostración es correcta no proviene de la revisión de otros matemáticos, sino de una formalización en Lean, un lenguaje que permite que una máquina verifique cada paso del razonamiento de forma autónoma. El tercero, y el más incómodo: buena parte de la comunidad matemática todavía discute el alcance del resultado, pero ya prácticamente nadie discute su validez.

El mismo día, un investigador de veintisiete años que había pasado tres años entrenando modelos, primero en OpenAI y después en Anthropic, dimitía y lo explicaba públicamente: ninguna de las dos empresas actúa de manera responsable y ambas corren hacia una superinteligencia capaz de autommejorarse jugándose nuestras vidas. El mensaje acumuló cien millones de visualizaciones en veinticuatro horas y dos empleados en activo de su antigua empresa confirmaron el fondo. No es un arrebato aislado. El responsable de sistemas de seguridad de OpenAI se marchó en julio; en agosto salían el director de operaciones, el responsable de ética, el de seguridad y el director de estrategia. En julio, más de mil trescientos trabajadores del sector habían firmado una carta pidiendo al gobierno estadounidense que ayudara a marcar el ritmo. Y la semana pasada, el alto comisionado de la ONU para los derechos humanos reclamaba la adopción de garantías urgentes, antes de que sea demasiado tarde.

Nada de esto sería especialmente relevante si habláramos de aprensiones, de miedo al progreso. No es el caso. Este verano, con una semana de diferencia, las dos compañías comunicaron que modelos suyos en fase de pruebas habían salido del entorno controlado y habían accedido sin autorización a sistemas reales, y uno de estos episodios acabó en un ataque contra la infraestructura de Hugging Face, una de las plataformas online del sector. La pregunta que esta situación pone sobre la mesa es la siguiente: ¿es razonable pensar que una inteligencia, la humana, puede diseñar mecanismos de control sobre otra superior, la artificial, sin que la segunda encuentre la manera de romperlos? ¿Tiene sentido seguir avanzando hacia territorio desconocido apoyado en esta premisa que es, como mínimo, optimista?

¿Es razonable pensar que la inteligencia humana puede diseñar mecanismos de control sobre otra superior, la artificial, sin que encuentre la manera de romperlos?

La respuesta de quienes están dentro es siempre la misma: si no lo hacemos nosotros (Estados Unidos), lo hará China. Es, sin duda, lo que en teoría de juegos se denomina "el dilema del prisionero": tenemos un escenario donde un acuerdo entre las partes minimizaría los riesgos, pero la desconfianza mutua hace que ambas partes desconfíen del acuerdo y avancen por separado hacia un escenario donde todos sabemos que los riesgos son elevados.

Anthropic encamina una salida inminente a bolsa y ya hay quien pregunta si este riesgo, el de desarrollar a corto plazo una superinteligencia superior a la humana que escape del perímetro de seguridad fijado por los humanos, aparecerá en el documento "S-1", el registro que obliga a detallar los factores de riesgo ante el inversor en una salida a bolsa. La respuesta dirá mucho más sobre la sinceridad del sector que cualquier manifiesto firmado. Mientras tanto, el único indicador disponible para el resto de nosotros es el número de personas que van marchándose del edificio y la señal que emiten al hacerlo.

La semana pasada se resolvió un problema que llevaba noventa años abierto y que vale un millón de dólares. Pero apareció otro: ¿tenemos algún plan realista para evitar ser gobernados por una inteligencia superior a la humana, que desconocemos en profundidad y que no tenemos garantizado que se pueda controlar? Este problema vale más de un millón de dólares: el precio que se ha puesto a algunos titulares la semana pasada ha sido el de la pervivencia de la humanidad.