El consejero delegado de Anthropic, Dario Amodei, ha reclamado una regulación más estricta para la inteligencia artificial avanzada. El cofundador del desarrollador de IA argumenta que los riesgos asociados a esta tecnología ya son claramente una realidad y que es necesario dotar a los gobiernos de la capacidad de bloquear o retirar del mercado los modelos que no superen pruebas de seguridad independientes. Según Amodei, el ritmo acelerado de los avances en inteligencia artificial ha dejado obsoleta la estrategia regulatoria basada únicamente en la transparencia. Este enfoque, que la industria defendía hace solo unos años, ya no es suficiente ante la aparición de riesgos concretos vinculados a la ciberseguridad, la posible creación de armas biológicas y la autonomía creciente de los sistemas. El directivo defiende que es necesario pasar de la transparencia a una regulación más seria y vinculante.
La propuesta de Amodei pasa porque los modelos de IA más potentes sean sometidos a auditorías obligatorias. Estas evaluaciones deberían centrarse en cuatro ámbitos específicos. El primero es la ciberseguridad, para evitar que los sistemas puedan ser utilizados para perpetrar ataques informáticos a gran escala. El segundo es las armas biológicas, un riesgo que el directivo considera especialmente preocupante. El tercero es la pérdida de control sobre los sistemas de IA. Y el cuarto, la investigación y el desarrollo automatizados que podrían acelerar los tres riesgos anteriores. Como elemento central de su propuesta, Amodei defiende que las autoridades dispongan de capacidad legal para impedir el despliegue de un modelo o para revertir su lanzamiento. Esta medida se aplicaría si las evaluaciones independientes concluyen que el modelo presenta riesgos inaceptables para la seguridad pública.
Poder de bloqueo limitado a riesgos definidos
El consejero delegado de Anthropic matiza que esta facultad del gobierno debería limitarse a los riesgos definidos previamente. También debería contar con salvaguardias que impidan decisiones arbitrarias o motivadas por favoritismos políticos. En otras palabras, el bloqueo no podría responder a criterios subjetivos ni a presiones sectoriales, sino a evidencias técnicas obtenidas a través de evaluaciones independientes. El directivo compara la situación actual de la inteligencia artificial con sectores como la aviación, la automoción o la industria farmacéutica. En todos estos ámbitos, los productos deben superar controles técnicos antes de llegar al mercado. Amodei propone un esquema similar al de la agencia de aviación civil de Estados Unidos, bajo el cual los modelos más avanzados deberían acreditar estándares elevados de seguridad antes de su lanzamiento. El ejecutivo argumenta que la evidencia acumulada en los últimos meses demuestra que los sistemas de IA más potentes ya tienen relevancia estratégica nacional e internacional. En particular, alerta del potencial de estas herramientas para afectar infraestructuras críticas, el sistema financiero o la seguridad nacional mediante capacidades avanzadas de ciberataque. Estos riesgos, a su juicio, justifican una intervención regulatoria más contundente que la que existe actualmente.
Entre otras cuestiones, el responsable de Anthropic plantea diversas propuestas para establecer incentivos que ayuden a proteger el empleo. Advierte que la IA podría provocar desplazamientos laborales disruptivos y propone estudiar mecanismos de apoyo a la renta si se produjera una sustitución masiva de puestos de trabajo. También defiende la creación de una alianza internacional de democracias para coordinar normas, cadenas de suministro y medidas de seguridad relacionadas con la IA. En el ámbito laboral, propone medidas concretas como seguros salariales que compensen a las personas cuando tengan que aceptar un puesto de trabajo peor remunerado, incentivos fiscales a la retención para animar a los empleadores a no despedir, subvenciones para la formación de la fuerza laboral, e infraestructuras para facilitar el emparejamiento entre empleadores y trabajadores con el objetivo de acelerar la adaptación del mercado laboral.
Amodei argumenta que habría que aceptar de buen grado los costes y las ineficiencias de mercado que estas políticas podrían implicar. En su opinión, estos costes probablemente quedarían compensados por las ganancias de productividad impulsadas por la propia inteligencia artificial. A pesar de los riesgos identificados, el directivo sostiene que la tecnología puede generar beneficios económicos y científicos de gran alcance si se acompaña de marcos regulatorios adecuados. El ejecutivo concluye que la gente está preocupada por la inteligencia artificial porque percibe correctamente que sus riesgos son reales. Y pide que esta preocupación se convierta en medidas concretas, no en una oposición generalizada al desarrollo de la tecnología. Su ensayo llega pocas semanas después de que su propia empresa alertara de los riesgos del sistema Mythos, lo que ha dado más peso a sus demandas regulatorias.