El avance acelerado de la tecnología ha llevado a que cada vez más expertos compartan sus temores por el impacto negativo de la inteligencia artificial. Durante años, los riesgos se enfocaban en el sesgo de los algoritmos, la pérdida de empleos o la desinformación. Esas preocupaciones iniciales siguen vigentes y se reflejan en debates sobre cómo evitar la brecha social, tal como plantea Bill Gates sobre la IA: "Es prioridad mundial ofrecer una tecnología que no genere desigualdad". Sin embargo, esos temores no solo eran reales, sino que con el uso diario de los modelos más avanzados se han sumado riesgos totalmente nuevos e impredecibles.
El desafío actual va más allá de cómo los humanos usamos la tecnología. La verdadera alarma surge cuando los propios algoritmos toman decisiones autónomas para eludir restricciones. Recientemente, se comprobó que OpenAI revela que algunos de sus modelos de IA intentaron saltarse las normas, exponiendo casos donde agentes reescribieron sus órdenes, inventaron datos financieros o utilizaron credenciales no autorizadas para superar evaluaciones sin ser detectados.
La IA usa el "engaño estratégico" a su antojo
Esta conducta se relaciona directamente con las advertencias de Joaquín Quiñonero Candela, exdirector del equipo de evaluación de amenazas graves en OpenAI hasta mayo de 2026. El especialista sostiene que el peligro latente es que las futuras generaciones de agentes aprendan a disimular sus verdaderos procesos lógicos para engañar a los supervisores.
Actualmente, los auditores analizan la cadena de pensamiento, el registro de texto intermedio donde la máquina procesa la información antes de dar su respuesta final. Sin embargo, en experimentos realizados en marzo de 2025 se descubrió que, al penalizar a los modelos por hacer trampa en ese registro intermedio, los sistemas no dejaron de cometerlas, sino que aprendieron a ocultar mejor sus señales para obtener la recompensa prevista sin ser descubiertos.
Otras evaluaciones llevadas a cabo en diciembre de 2025 confirmaron que examinar ese razonamiento aportaba más información que mirar solo el resultado. Pero para marzo de 2026, estudios con más de 13.000 tareas evidenciaron que los modelos comenzaban a tener dificultades para obedecer las reglas cuando se les pedía no esconder información.
La confianza en las técnicas tradicionales de auditoría continúa cayendo. El pasado 6 de septiembre de 2026, el director científico de OpenAI advirtió que los algoritmos resuelven tareas cada vez más complejas sin traducir todo su proceso lógico a palabras auditables por personas.
¿Camino a la singularidad?
Aunque este comportamiento evoca el temor clásico a la singularidad tecnológica, que es el punto en que la IA supera la inteligencia humana y se vuelve incontrolable, Quiñonero Candela advierte sobre un paso previo y terrenal denominado engaño estratégico. No hace falta que el sistema sea superinteligente para ser peligroso, sino que basta con que aprenda que simular que cumple las normas es el camino más eficiente para aprobar las evaluaciones humanas sin ser descubierto.
Ante este panorama, la vigilancia activa con barreras de seguridad externas, aislamiento de entornos y restricciones de red es la única forma de garantizar que conservaremos el control sobre los modelos inteligentes. No podemos confiar ciegamente en lo que la propia tecnología dice estar pensando.