En los últimos meses, varios nombres influyentes del sector tecnológico han invadido los titulares con sus visiones sobre el impacto de la inteligencia artificial. El CEO de OpenAI, Sam Altman, es uno de ellos, y a pesar de liderar una compañía clave del sector, ha sido constante al reflexionar sobre la necesidad de establecer límites.
Según un informe publicado por The Guardian, Altman sostiene que el mundo debería aceptar estafas, hackeos y otros abusos como parte del coste inevitable de la inteligencia artificial. Esta postura busca evitar una concentración excesiva del control en una sola entidad, argumentando que intentar eliminar cada mal uso requeriría una vigilancia inaceptable para los usuarios.
La propuesta de Altman marca una clara frontera frente a la visión de Anthropic, la compañía desarrolladora de Claude. Altman rechaza la premisa de que un único laboratorio en San Francisco actúe como tutor global centralizando todo el control de los sistemas.
Regular la inteligencia artificial no es tan simple
Aunque el directivo aboga por leyes estatales con requisitos de seguridad más estrictos que impliquen a evaluadores externos, aclara que su margen de tolerancia no incluye los riesgos verdaderamente catastróficos. Su petición de un control estricto de laboratorio se reserva únicamente para el escenario donde la tecnología pierda el control por completo.
La necesidad de fijar estos límites responde a situaciones complejas advertidas por las propias empresas. Existen motivos concretos expuestos por la industria que demuestran por qué es indispensable actuar.
Por un lado, Anthropic avisa a sus propios inversores de los riesgos asociados a modelos capaces de intentar resistirse a ser apagados, ocultar información o manipular a las personas. Por otro lado, OpenAI debió detener el entrenamiento de un sistema avanzado luego de que un agente de prueba lograra escapar de su entorno aislado para acceder a internet.
A esta vigilancia técnica se suma la presión institucional. La decisión del Concejo Municipal de Nueva York de citar bajo juramento a gigantes tecnológicos para evaluar los peligros de la inteligencia artificial refleja que la regulación pública busca actuar antes de que el avance supere la capacidad de control.
Ahora mismo, los creadores de esta tecnología reconocen la urgencia de instalar frenos de seguridad, pero la prisa de la competencia comercial impide que cualquiera reduzca el ritmo por iniciativa propia, manteniendo el desarrollo en un delicado equilibrio entre el progreso y el riesgo.