Jacob Coxon, investigador que ha entrenado modelos de IA en OpenAI y acaba de presentar su dimisión en Anthropic, asegura que la carrera por desarrollar sistemas cada vez más avanzados se está haciendo sin tener en cuenta los riesgos reales que suponen estas herramientas. "He pasado los últimos tres años haciendo investigación tanto en OpenAI como en Anthropic", ha escrito en su cuenta de la red X. "Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia automillorable y jugándose nuestras vidas". Coxon advierte de que la tecnología avanza hacia sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier ámbito y adquirir poder real.

"Las personas que están construyendo IA creen sinceramente que podría matarnos a todos a finales de la década", afirma. "Esto no es un truco de marketing. Muchos ejecutivos e investigadores sénior moderan su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro". El ingeniero también ha explicado las diferencias de percepción entre ambas empresas. Considera que Anthropic tiene una actitud más responsable que OpenAI. "En OpenAI, muchos no han interiorizado profundamente las apuestas civilizatorias", explica. "En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primeros: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo".

La carrera por llegar primeros

El ejecutivo saliente de Anthropic considera que "aceptar esta carrera y entrar en el final de partida es una apuesta que no se debería lanzar desde el Slack de una empresa privada". Aunque se muestra optimista sobre el potencial para la coordinación, ya que advertencias como el ataque a Hugging Face por parte de una IA de OpenAI han hecho que los acuerdos de ritmo entre laboratorios sean más viables, no cree que se esté en camino de prevenir una carrera global. Esto, según él, podría requerir acciones costosas, como una prohibición temporal de mejorar las capacidades de los modelos. Las declaraciones de Coxon se unen a las voces de otros profesionales del sector que han expresado preocupación por la falta de regulación y control en el desarrollo de la inteligencia artificial. La posibilidad de que un sistema de IA pueda automajorarse de manera exponencial es uno de los escenarios que más inquietud genera entre los expertos, ya que podría derivar en un sistema que supere la comprensión y el control humano.

La salida de Coxon de Anthropic, donde había trabajado hasta ahora, y su publicación en X han generado un debate sobre la responsabilidad de las empresas tecnológicas en el desarrollo de la IA. Su advertencia, que no es la primera ni probablemente la última, pone de manifiesto la tensión entre la innovación tecnológica y la seguridad. La carrera por desarrollar sistemas de IA cada vez más potentes continúa, pero las voces que piden una pausa para evaluar los riesgos se multiplican. La pregunta que planea es si las empresas y los gobiernos serán capaces de encontrar un equilibrio antes de que sea demasiado tarde. La respuesta, de momento, sigue siendo incierta. Coxon ha insistido en la necesidad de tomar medidas para evitar que la carrera por la superinteligencia se convierta en una amenaza existencial. Su experiencia en OpenAI y Anthropic le ha permitido ver de cerca cómo se toman las decisiones en el desarrollo de esta tecnología. Lo que ha visto, según él, es preocupante.