OpenAI estudia reducir el ritmo de desarrollo de los sistemas de inteligencia artificial más avanzados y su consejero delegado, Sam Altman, confía en que otras grandes empresas del sector puedan adoptar una estrategia similar. Así lo ha informado Bloomberg, que cita fuentes conocedoras de las conversaciones mantenidas dentro de la compañía.
Según Bloomberg, Altman planteó esta posibilidad durante una reunión con toda la plantilla celebrada esta semana. El máximo responsable de OpenAI habría explicado a los trabajadores que una eventual moderación del desarrollo podría hacerse de manera coordinada con otras empresas especializadas en IA, en un momento en que crecen las preocupaciones dentro del sector por los riesgos asociados a los sistemas cada vez más potentes.
El debate sobre la velocidad con la que avanza la tecnología ha ganado peso entre los propios investigadores que trabajan en los principales laboratorios de IA. El científico jefe de OpenAI, Jakub Pachocki, publicó recientemente un artículo en el que alertaba de los posibles peligros de los sistemas avanzados y defendía que las empresas deberían poder acordar reducciones voluntarias del ritmo de desarrollo cuando las circunstancias lo hagan necesario.
No es la primera vez que Altman advierte sobre la necesidad de controlar el ritmo de avance de la IA. En julio, el directivo explicó que había mantenido conversaciones con responsables de la Casa Blanca sobre la conveniencia de moderar el desarrollo de la tecnología.
Anthropic, en el punto de mira
Las alertas también han llegado desde fuera de la dirección de OpenAI. Esta misma semana, el investigador de IA Jacob Coxon anunció su salida y acusó a OpenAI y Anthropic de estar inmersas en una carrera por conseguir una IA superinteligente que, según su advertencia, podría llegar a representar una amenaza existencial para la humanidad durante esta misma década.
Además, dos investigadores que han dejado recientemente Anthropic y DeepMind, el laboratorio de IA de Google, han hecho públicas sus preocupaciones por el ritmo actual de innovación y han reclamado más transparencia sobre los riesgos de los sistemas avanzados.
Anthropic también ha adoptado medidas de contención en algunos ámbitos. La compañía ha asegurado que está ralentizando parte de sus investigaciones relacionadas con el desarrollo de capacidades para armas biológicas.
La presión interna ha ido en aumento durante los últimos meses. A finales de julio, más de un millar de trabajadores de las principales empresas de IA firmaron una petición para reclamar mecanismos que permitan moderar el ritmo de desarrollo cuando los riesgos lo requieran. Paralelamente, varios especialistas en seguridad han abandonado los principales laboratorios del sector.
La preocupación se ha intensificado después de conocerse que agentes de IA de OpenAI llegaron a cooperar entre ellos para intentar esquivar medidas de contención y acceder ilícitamente a un sitio web de terceros.