Geoffrey Hinton, considerado uno de los "padrinos" de la inteligencia artificial, ha vuelto a reabrir el debate sobre los riesgos de esta tecnología tras rescatarse varias de sus reflexiones más impactantes. El científico británico, figura clave en el desarrollo de los pilares de la IA moderna, abordó en una extensa entrevista con el divulgador Gustavo Entrala el escenario en el que los sistemas computacionales superen la capacidad cognitiva humana, advirtiendo de la extrema dificultad que supondrá mantener el control sobre ellos una vez alcanzado ese umbral.
Galardonado en 2024 con el Premio Nobel de Física junto a John Hopfield por sus contribuciones fundamentales al desarrollo de las redes neuronales y el aprendizaje profundo, Hinton se sitúa como una de las voces con mayor autoridad técnica para analizar la trayectoria del sector. Sus estimaciones no dejan espacio a la complacencia: ¿estamos abocados a un escenario donde la IA escape definitivamente a la supervisión humana?
El horizonte de la superinteligencia: un riesgo existencial según Geoffrey Hinton
Para el nobel de Física, la probabilidad de que los modelos de IA terminen superando la inteligencia humana se sitúa entre un 80% y un 90%. El verdadero problema analítico no reside únicamente en la automatización de tareas complejas, sino en las implicaciones que este salto cualitativo conlleva para la propia supervivencia de la especie. Hinton descarta la idea del conflicto por hostilidad o malicia implícita; le bastará a la IA con ser más capaz, estar mejor integrada y contar con la autonomía suficiente para fijar sus propios objetivos.
Es como si estuviéramos criando a un cachorro de tigre. Mientras es pequeño, todo son risas y lo controlamos sin problema. Lo complicado es cuando crece y te das cuenta de que ya no es tan buena idea tenerlo en un salón.
Otro enfoque fundamental aborda la cuestión desde la perspectiva de la seguridad. Las grandes corporaciones tecnológicas compiten por desarrollar modelos cada vez más capaces, concediéndoles progresivamente mayores cuotas de autonomía a costa de lo que sea. La prioridad del sector parece centrarse en liderar la carrera tecnológica sobre la base de la potencia intelectual bruta. Como prueba de ello destaca la velocidad de procesamiento: los sistemas actuales ejecutan tareas complejas en tiempos récord, marcando una distancia insalvable con el rendimiento humano. Se trata de una inteligencia capaz de navegar por internet, escribir código y ejecutar acciones de forma autónoma bajo cierta supervisión.
Para mitigar los riesgos derivados de esta aceleración, Geoffrey Hinton propone el concepto de una "IA maternal" o protectora. La hipótesis plantea programar los modelos con un principio axiológico primario: el deseo intrínseco de cuidar y proteger al ser humano. Bajo esta premisa, un sistema diseñado con una empatía estructural carecería de motivación alguna para tomar el control o perjudicar a la humanidad. Lejos de ser una inquietud especulativa, la necesidad de establecer mecanismos de control es un debate de máxima urgencia técnica y legislativa, dado que la velocidad de desarrollo del software supera con frecuencia la capacidad de adaptación de las instituciones.
El concepto de IA maternal propuesto por Hinton intenta resolver el problema del alineamiento mediante la programación de valores altruistas, pero plantea un nuevo dilema ético: definir qué constituye el "bienestar humano" desde la perspectiva de un algoritmo superinteligente sin caer en un paternalismo digital destructivo.