El pasado jueves, Anthropic (la empresa estadounidense que está detrás de Claude, uno de los modelos de inteligencia artificial más avanzados del mundo) publicó una nota sorprendente donde pedía considerar seriamente la posibilidad de frenar el progreso de la misma tecnología que vende. Me refiero a ella con el adjetivo sorprendente porque no lo decía un comité de ética ni un grupo de filósofos alarmados desde la barrera, sino los mismos ingenieros que la construyen, con un cierto tono de preocupación sobre lo que tienen entre manos. Entre los argumentos utilizados, destaca uno contundente: más del 80% del código que la empresa incorpora a sus sistemas ya no lo escribe ningún humano, sino su propia IA. Para ponerlo en contexto, hace poco más de un año, esta cifra no llegaba al 5%. Por lo tanto, la empresa considera que esta cuestión es lo suficientemente relevante en sí misma para considerar si debería ser un umbral donde detener máquinas y hacer una reflexión colectiva.

El documento describe lo que llaman recursive self-improvement, es decir, la automejora recursiva: el momento en que un sistema se vuelve lo suficientemente capaz de diseñar y entrenar la versión que lo sustituirá. Todavía no estamos del todo, advierten, pero la tendencia es tan rápida que les inquieta. Según las métricas publicadas por la organización independiente METR, el tiempo de trabajo que estos sistemas pueden completar de manera fiable se duplica cada cuatro meses: en marzo de 2024 resolvían tareas de cuatro minutos; un año después, de hora y media; esta primavera, de doce horas. La herramienta, en definitiva, ha empezado a fabricar la herramienta, y lo hace cada vez más deprisa.

Todos recordamos la escena de la película de Disney Fantasía en la que el aprendiz de brujo hace un hechizo a una escoba para que le cargue el agua y, cuando la quiere detener, ya se ha multiplicado en un ejército de escobas que inundan el taller. La gracia del cuento no es la magia, sino la pérdida de control sobre un proceso que se replica solo. Más allá de la discusión técnica sobre si llegaremos o no a este punto, ya observamos actualmente unas determinadas consecuencias económicas de esta situación. El mismo artículo publicado por Anthropic lo ejemplifica con datos internos: el pasado abril, su modelo resolvió ochocientas incidencias que a un equipo humano le habrían costado cuatro años de trabajo. Cuando el coste marginal de producir tiende a cero, la pregunta deja de ser cuánto produciremos y pasa a ser quién captura el valor de lo que se produce y cómo lo reasignamos para mantener el estado del bienestar. Anthropic lo formula sin tapujos en unos cálculos que deberían hacer pensar a más de un gobierno: una empresa de cien personas podría llegar a hacer el trabajo de cien mil, y es difícil predecir qué aspecto tendrá la economía una vez que el trabajo humano deja de ser competitivo. La promesa es extraordinaria: progresos nunca vistos en ciencia, salud, tecnología, industria... pero el reparto de esta abundancia no está definido en ningún sitio. Y el mismo algoritmo que podría encontrar la cura de determinadas enfermedades también puede servir para la vigilancia masiva o para campañas de manipulación personalizadas a una escala que ningún equipo humano podría igualar. El riesgo no es tanto que la máquina se vuelva malévola como que amplifique, a velocidad de vértigo, nuestras propias asimetrías de poder.

El riesgo no es tanto que la máquina se vuelva malévola como que amplifique, a velocidad de vértigo, nuestras propias asimetrías de poder

La manera como lo estamos enfocando en nuestra casa no nos permite ser muy optimistas. Mientras en los laboratorios de California sus propios creadores se plantean si hay que frenar una tecnología capaz de reescribirse a sí misma, en la Unión Europea hace años que vertemos nuestra energía reguladora, que no es poca, en minucias. El caso paradigmático es el botón de aceptar las galletas, aquel letrero que todos clicamos mecánicamente decenas de veces al día sin leerlo nunca, fruto de una normativa que pretendía proteger nuestra privacidad y que solo ha conseguido convertir la navegación en un calvario de ventanas emergentes. Hemos añadido el etiquetado de los cargadores, el grosor de las bolsas, la letra pequeña de cada contrato digital y una lista inacabable de prescripciones. Conviene decir que España y Catalunya, lejos de ser la excepción, solemos acentuar la tendencia añadiendo capas propias de creatividad sobre la norma comunitaria. El problema es que estos árboles no nos dejan ver el bosque. Mientras discutimos dónde debe ir exactamente el botón de las cookies, no estamos articulando ninguna respuesta seria al hecho de que, en el escenario que dibuja la misma Anthropic, una parte abrumadora del trabajo intelectual cualificado podría quedar, sencillamente, fuera del mercado laboral.

Quizás la pausa es materialmente imposible. Lo que no es optativo es la adaptación. Mientras debatimos si la curva es exponencial o lineal, nuestras instituciones –el sistema educativo, el mercado laboral, la fiscalidad, la protección social– continúan calibradas para un mundo donde pensar era caro y lento. Este mundo se está acabando a una velocidad que las instituciones todavía no han digerido. La lección del aprendiz de brujo de Disney nunca fue que no se debía encantar la escoba; fue que conviene saber el hechizo para detenerla antes de necesitarlo. Más vale que empecemos a buscarlo.