El consejero delegado de Meta, Mark Zuckerberg, ha defendido que evaluadores y asesores independientes analicen los sistemas y modelos de inteligencia artificial que desarrollan las empresas. Esta es su apuesta para garantizar la seguridad de los modelos, pero no comparte la idea de frenar su desarrollo, una posición que otros dirigentes del sector han planteado en las últimas semanas. En una publicación en la red social X, Zuckerberg ha señalado que cada laboratorio tiene "la responsabilidad y el incentivo" de avanzar al ritmo necesario para entrenar sus modelos de manera segura, y también la capacidad de tomar sus propias medidas para garantizarlo.
Según el dirigente, las empresas no necesitan que se les imponga un ritmo desde fuera, sino que deben gestionar sus propios procesos. Esta visión contrasta con la de otras voces del sector que han reclamado una pausa o un freno en el desarrollo de modelos cada vez más potentes, especialmente después de las advertencias sobre riesgos catastróficos que han hecho algunos expertos. Zuckerberg ha recordado que Meta retrasó durante meses el lanzamiento de su último modelo de inteligencia artificial, Muse, para centrarse en su seguridad. Sin embargo, ha subrayado que no exigieron al resto de empresas que hicieran lo mismo. "Simplemente, lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto para la gente y para nosotros", ha afirmado.
La confianza y la alineación, clave para los agentes
Según el máximo responsable de Meta, la gente no querrá utilizar agentes que no estén "alineados" con ellos y que no hagan lo que se les pide. Esta circunstancia, bajo su criterio, es el principal incentivo que tienen los laboratorios para preparar mejor sus modelos. "La confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y los modelos", ha escrito en X. Zuckerberg también ha destacado que los laboratorios se enfrentan a "una responsabilidad significativa si sus modelos causan daños", por lo que tienen un fuerte incentivo para evitarlo. En este sentido, ha defendido que contratar evaluadores y asesores independientes "es la mejor práctica de la industria" y ha asegurado que Meta ha asumido este compromiso con la seguridad.
El dirigente ha añadido que "otros laboratorios también pueden hacerlo" y que la clave para construir un futuro positivo para todos "reside en mantener el equilibrio de poder adecuado". Con estas declaraciones, Zuckerberg se posiciona en el debate sobre la regulación de la inteligencia artificial, que ha generado posiciones enfrentadas entre los principales actores del sector. La posición de Zuckerberg se suma a la de otros dirigentes que han expresado su preocupación por los riesgos de la inteligencia artificial. Recientemente, el consejero delegado de OpenAI, Sam Altman, decidió retrasar la salida a bolsa de la compañía debido a los riesgos de seguridad que presentan los modelos avanzados.
Por su parte, Anthropic ha advertido en una carta abierta de la necesidad de frenar el ritmo de desarrollo de las capacidades de los modelos de IA ante una tecnología que puede causar riesgos catastróficos. A pesar de estas voces, Zuckerberg considera que la mejor manera de garantizar la seguridad es mediante la supervisión externa y la competencia entre empresas, y no a través de un frenazo impuesto. Su posición refleja la división existente en el sector sobre cómo abordar los riesgos de la inteligencia artificial, un debate que continuará en los próximos meses y que tendrá implicaciones importantes para el futuro de la tecnología.