Geoffrey Hinton, Premio Nobel de Física en 2024 y uno de los pioneros del aprendizaje profundo (deep learning), ha vuelto a pronunciarse sobre la rápida evolución de la inteligencia artificial. Al igual que otros referentes del sector, su principal preocupación se centra en la necesidad de prever un futuro donde estos sistemas adquieran una autonomía no deseada en la toma de decisiones.
Si bien Hinton enfatiza la importancia de evitar un escenario donde la IA actúe fuera del control humano para apagarla o redirigirla, también mantiene una postura prudente sobre el impacto real de este riesgo. El especialista aclara que muchos de los temores sobre un potencial "escenario de extinción" responden a intuiciones sobre el ritmo del desarrollo tecnológico y carecen aún de una base probatoria suficiente.
Hay dos aspectos clave para evitar que la IA pierda el control
Según el investigador, los sistemas actuales todavía no son capaces de mantener un comportamiento autónomo de evasión de forma sostenida en el mundo real. Aunque se han detectado conductas rudimentarias en entornos de prueba como los recientes ensayos donde modelos de lenguaje de OpenAI lograron explotar vulnerabilidades en sitios web reales, estos intentos suelen fallar, ser detectados o requerir varios días de ejecución antes de lograr un resultado concreto.
Las pruebas de laboratorio demuestran que la capacidad de un agente de IA para superar barreras o resolver tareas complejas depende estrictamente de los permisos otorgados y de la potencia de cálculo asignada durante su funcionamiento.
Con todas estas variables, parece evidente que la clave para contener los riesgos de la superinteligencia artificial no estará en intentar apagar un sistema cuando ya sea tarde, sino en aplicar el principio de mínimo privilegio, auditando la capacidad de cómputo y exigiendo la supervisión humana obligatoria antes de otorgar a cualquier agente la libertad de actuar en el entorno real.