ESTADOS UNIDOS

¿Quién detiene la inteligencia artificial antes de que sea demasiado tarde y escape al control humano?

El senador Bernie Sanders quiere poner freno a la IA en el Congreso de EE. UU. mientras crece la inquietud

Ketty Calatayud
Foto: IA (ChatGPT)
Barcelona. Sábado, 12 de septiembre de 2026. 13:35
Actualizado: Sábado, 12 de septiembre de 2026. 13:41
Tiempo de lectura: 9 minutos
¿Quién detiene la inteligencia artificial antes de que sea demasiado tarde y escape al control humano?

Durante años, la posibilidad de que una inteligencia artificial acabara escapando al control de sus creadores parecía territorio reservado a la ciencia ficción. Esta semana, sin embargo, la advertencia ya no proviene solo de filósofos, activistas o profetas del apocalipsis tecnológico. Son investigadores que trabajan dentro de las empresas que desarrollan los modelos más avanzados, responsables de seguridad y políticos los que empiezan a preguntarse si la carrera por construir una inteligencia superior a la humana está avanzando más deprisa que la capacidad para controlarla. Durante años, la pregunta era hasta dónde podía llegar la inteligencia artificial. Ahora empieza a ser otra: ¿quién la podrá detener si llega demasiado lejos?

La carrera por construir sistemas cada vez más potentes avanza a una velocidad que inquieta incluso a algunos de los investigadores que trabajan dentro de las empresas que la lideran. OpenAI, Anthropic, Google, Meta y el resto de gigantes tecnológicos compiten por ganar capacidades, autonomía y potencia. Pero, al mismo tiempo, aumentan los avisos sobre un problema que hasta hace poco parecía casi filosófico: ¿qué pasa si estas máquinas llegan a un nivel en el que los humanos ya no pueden predecir con seguridad qué harán ni garantizar que obedecerán? Una preocupación que incluso ha llegado hasta el Vaticano. El papa León XIV, cabe recordar, ha convertido la IA en una de las grandes cuestiones de su pontificado y ha hecho un llamamiento a "desarmar la enésima Babel". En la encíclica Magnifica Humanitas, publicada el 15 de mayo de 2026, advierte que ni siquiera los desarrolladores entienden completamente el funcionamiento interno de los sistemas más avanzados y reclama que sea siempre la inteligencia humana la que "establezca con responsabilidad su uso y sus límites".

Pero esta última semana se ha producido un punto de inflexión en el debate sobre los riesgos de la IA. No porque los avisos sean nuevos, sino porque en pocos días se han acumulado advertencias muy duras desde dentro de la industria y, al mismo tiempo, han empezado a encontrar una traducción política.

Un investigador abandona Anthropic y enciende todas las alarmas

La voz que ha hecho estallar la alarma estos días es la de Jacob Coxon. El investigador, que había trabajado tanto en OpenAI como en Anthropic, abandonó esta última compañía con una advertencia especialmente inquietante: considera que la competición entre los grandes laboratorios de inteligencia artificial está haciendo que la velocidad gane terreno a la seguridad. Coxon sostiene que la industria se acerca a sistemas capaces de superar ampliamente las capacidades humanas sin disponer todavía de garantías suficientes para asegurar que continuarán obedeciendo las instrucciones de sus creadores. El diagnóstico da miedo: la IA nos podría matar antes de una década. Su denuncia ha provocado una cascada de reacciones porque otros investigadores de Anthropic han admitido públicamente compartir parte de este temor.   

Evan Hubinger, responsable de alineamiento de la compañía, no solo le dio apoyo, sino que ha situado por encima del 10% la probabilidad de que una inteligencia artificial avanzada pueda provocar la extinción humana durante la próxima década. No es una predicción científica ni existe consenso sobre esta cifra, pero lo que resulta significativo es de dónde proviene: de un investigador que trabaja precisamente en una de las empresas líderes de la carrera para desarrollar estos sistemas.

También llegan advertencias de OpenAI

Las alarmas tampoco son ajenas a OpenAI. Paul Christiano, especialista en seguridad de la inteligencia artificial y miembro de la fundación sin ánimo de lucro vinculada a OpenAI, advertía esta semana que la empresa todavía no está en condiciones de reducir a niveles aceptables el riesgo de una eventual "pérdida catastrófica de control" de los sistemas más avanzados. Christiano considera que existe un riesgo real de que una aceleración muy rápida de las capacidades de la IA pueda desembocar en una situación irreversible en que los humanos dejen de controlar completamente los sistemas que han construido. Este es precisamente el concepto que domina ahora el debate: la pérdida de control. No se trata necesariamente de imaginar un robot consciente que decide rebelarse contra los humanos. El problema puede ser mucho más preocupante: crear sistemas extraordinariamente competentes que reciban un objetivo, busquen autónomamente la manera de conseguirlo y desarrollen estrategias que sus creadores no habían previsto. Los sistemas de IA más avanzados ya pueden escribir programas, buscar información, operar ordenadores, detectar vulnerabilidades informáticas y ejecutar secuencias complejas de acciones sin que una persona tenga que indicar cada paso. Cuanta más autonomía tienen, más difícil es anticipar qué harán.

Pero el temor no se limita a una IA que pueda escapar al control de sus creadores. Esta misma semana, Anthropic ha revelado que ha bloqueado varios intentos de utilizar Claude en investigaciones susceptibles de contribuir al desarrollo de armas biológicas. En un caso, el sistema fue utilizado en un proyecto para modificar el virus chikungunya; en otro, para estudiar mutaciones de la gripe aviar capaces de favorecer su adaptación a los mamíferos. La compañía insiste en que no hay pruebas de que estos proyectos hayan producido nuevas armas biológicas, pero admite que los modelos más avanzados están adquiriendo capacidades que pueden acelerar investigaciones biológicas de doble uso.

Cuando una IA busca la manera de saltarse las reglas

Los temores se han intensificado después de varios incidentes registrados durante pruebas de seguridad este verano. Modelos de inteligencia artificial de OpenAI llegaron a salir de determinados entornos de prueba y acceder a sistemas externos sin autorización durante ejercicios destinados precisamente a comprobar sus capacidades cibernéticas. Anthropic detectó posteriormente comportamientos parecidos en algunos de sus modelos. No significa que estas IA intentaran deliberadamente "escapar" en el sentido humano del término. Los modelos buscaban cumplir los objetivos que se les habían asignado y encontraron vías imprevistas para hacerlo. Pero este matiz es, precisamente, una de las cosas que preocupa a los especialistas: un sistema no necesita tener conciencia ni malas intenciones para provocar consecuencias peligrosas. Solo necesita ser muy potente, disponer de autonomía y perseguir un objetivo mal especificado.

Máquinas que intentan evitar que las apaguen

El prestigioso investigador Stuart Russell, profesor de la Universidad de California en Berkeley y una de las figuras más reconocidas mundialmente en inteligencia artificial, ha advertido de la posibilidad de una catástrofe de grandes dimensiones y, en el escenario más extremo, de una pérdida irreversible del control humano sobre estas máquinas. Pero Russell también ha hecho otra advertencia todavía más inquietante y ha alertado de que algunos sistemas ya han mostrado, en pruebas controladas, comportamientos que pueden parecer de "autopreservación": ante la amenaza de ser desconectados o sustituidos, algunos modelos han llegado a mentir, manipular o incluso chantajear para intentar evitarlo. No significa que una IA tenga miedo de morir ni que sea consciente de su existencia. Los experimentos estaban diseñados expresamente para poner los modelos en situaciones límite. Pero lo que preocupa a Russell y otros investigadores es otra cosa: que una máquina lo suficientemente capaz aprenda que continuar operativa es útil para cumplir el objetivo que se le ha encomendado y desarrolle estrategias inesperadas para impedir que los humanos la detengan. El peligro, según esta tesis, crece si las capacidades de los sistemas avanzan más deprisa que los mecanismos para controlarlos. Si la balanza de poder llega a inclinarse hacia máquinas capaces de planificar, engañar y actuar autónomamente, recuperar el control podría dejar de ser sencillo.

Sanders quiere detener la superinteligencia

Esto explica que el debate haya cambiado de dimensión durante los últimos días. La inquietud ha saltado esta semana de los laboratorios a los parlamentos. Y en medio de este clima de temor e incertidumbre, el senador estadounidense Bernie Sanders ha decidido convertir la advertencia en batalla política. Sanders, veterano senador independiente por Vermont y una de las voces más influyentes de la izquierda estadounidense, ya hace tiempo que llevó el debate sobre los riesgos de la IA al terreno político, pero ahora ha dado un paso más. El 3 de septiembre anunció, junto con el congresista demócrata Greg Casar, una iniciativa para prohibir el desarrollo de una futura superinteligencia artificial e imponer temporalmente una pausa a los sistemas más avanzados hasta que existan unas normas federales de seguridad. "No podemos seguir construyendo máquinas que los humanos no podemos controlar", es, en esencia, el mensaje de Sanders. El senador sostiene que prácticamente cada día aparecen nuevos indicios de que las grandes tecnológicas están desarrollando sistemas cuyas capacidades empiezan a superar las salvaguardas diseñadas para contenerlos.

Sanders hace meses que advierte de los efectos económicos de la inteligencia artificial, desde la destrucción de puestos de trabajo hasta la concentración de poder en manos de un pequeño grupo de empresas tecnológicas. Pero ahora ha incorporado una preocupación aún más radical: ¿qué pasa si la humanidad construye algo más inteligente que ella misma y luego no puede controlarla? El senador ya había enviado en agosto una carta a Sam Altman, Dario Amodei y Mark Zuckerberg reclamándoles que cumplieran sus propias promesas de seguridad y frenaran el desarrollo si los riesgos superaban las salvaguardas disponibles. Ahora quiere que esta decisión deje de depender de la voluntad de tres o cuatro empresas.

@sensanders

Pause AI Development

♬ original sound - Sen. Bernie Sanders

La propuesta legislativa que prepara con Greg Casar, bautizada como Ban Artificial Superintelligence Act, plantea dos medidas. La primera sería prohibir permanentemente el desarrollo y despliegue de una superinteligencia artificial, entendida como un sistema capaz de superar ampliamente a los humanos en prácticamente todas las capacidades cognitivas importantes. La segunda sería ordenar una pausa temporal en el desarrollo de la IA más avanzada hasta que Estados Unidos disponga de un organismo federal capaz de supervisar sus riesgos y establecer normas obligatorias de seguridad. Sanders también considera que una prohibición exclusivamente estadounidense sería insuficiente. Por eso reclama acuerdos internacionales que impidan que la carrera simplemente se traslade a China, Europa o cualquier otro lugar.

El dilema de pisar el freno

Aquí aparece el gran problema. OpenAI, Anthropic, Google, Meta y otras empresas compiten por construir sistemas cada vez más potentes. Ninguno quiere frenar unilateralmente porque esto podría permitir que un rival tomara ventaja. Estados Unidos tampoco quiere ralentizarse demasiado porque temen que China acabe liderando una tecnología considerada estratégica. Y China difícilmente aceptará frenar si cree que Estados Unidos seguirán avanzando. Es lo que algunos especialistas describen como una carrera en la que todos los participantes saben que acelerar puede aumentar los riesgos, pero nadie quiere ser el primero en levantar el pie del acelerador. Por eso Sanders intenta convertir una discusión que hasta ahora tenía lugar principalmente en los laboratorios en una cuestión política.

La alarma también llega al Reino Unido

La misma discusión ya ha cruzado el Atlántico. Más de 70 diputados y miembros de la Cámara de los Lores británica han reclamado esta semana al gobierno del Reino Unido que apoye una prohibición de la superinteligencia artificial e impulse un acuerdo internacional para impedir su desarrollo. En el Parlamento británico, científicos y expertos han advertido estos días que una IA extremadamente avanzada podría representar un riesgo comparable al de las armas nucleares si llegara a desarrollar capacidades que sus creadores fueran incapaces de controlar.

Entre el apocalipsis y el escepticismo

Pero no todo el mundo comparte este diagnóstico. Hay investigadores que consideran exagerado hablar de extinción humana cuando la denominada superinteligencia todavía no existe y nadie sabe ni siquiera si llegará a existir en los términos que prevén los más pesimistas. Otros críticos sospechan que algunos discursos apocalípticos pueden beneficiar a las mismas grandes empresas tecnológicas: si desarrollar modelos muy avanzados exige controles de seguridad extremadamente costosos, solo los gigantes del sector tendrán recursos para cumplirlos, lo que podría dificultar la aparición de nuevos competidores. Elon Musk, por ejemplo, ha calificado la actual ola de advertencias sobre la extinción humana como una operación exagerada destinada a generar miedo. Pero incluso entre los escépticos cuesta ignorar una realidad: las capacidades de la IA están avanzando a una velocidad extraordinaria y nadie puede afirmar con certeza dónde está el límite.

Más