El conseller delegat d'Anthropic, Dario Amodei, ha reclamat una regulació més estricta per a la intel·ligència artificial avançada. El cofundador del desenvolupador d'IA argumenta que els riscos associats a aquesta tecnologia ja són clarament una realitat i que cal dotar els governs de la capacitat de bloquejar o retirar del mercat els models que no superin proves de seguretat independents. Segons Amodei, el ritme accelerat dels avenços en intel·ligència artificial ha deixat obsoleta l'estratègia regulatòria basada únicament en la transparència. Aquest enfocament, que la indústria defensava fa només uns anys, ja no és suficient davant l'aparició de riscos concrets vinculats a la ciberseguretat, la possible creació d'armes biològiques i l'autonomia creixent dels sistemes. El directiu defensa que cal passar de la transparència a una regulació més seriosa i vinculant.
La proposta d'Amodei passa perquè els models d'IA més potents siguin sotmesos a auditories obligatòries. Aquestes avaluacions haurien de centrar-se en quatre àmbits específics. El primer és la ciberseguretat, per evitar que els sistemes puguin ser utilitzats per perpetrar atacs informàtics a gran escala. El segon és les armes biològiques, un risc que el directiu considera especialment preocupant. El tercer és la pèrdua de control sobre els sistemes d'IA. I el quart, la investigació i el desenvolupament automatitzats que podrien accelerar els tres riscos anteriors. Com a element central de la seva proposta, Amodei defensa que les autoritats disposin de capacitat legal per impedir el desplegament d'un model o per revertir-ne el llançament. Aquesta mesura s'aplicaria si les avaluacions independents conclouen que el model presenta riscos inacceptables per a la seguretat pública.
Poder de bloqueig limitat a riscos definits
El conseller delegat d'Anthropic matisa que aquesta facultat del govern hauria de limitar-se als riscos definits prèviament. També hauria de comptar amb salvaguardes que impedeixin decisions arbitràries o motivades per favoritismes polítics. En altres paraules, el bloqueig no podria respondre a criteris subjectius ni a pressions sectorials, sinó a evidències tècniques obtingudes a través d'avaluacions independents. El directiu compara la situació actual de la intel·ligència artificial amb sectors com l'aviació, l'automoció o la indústria farmacèutica. En tots aquests àmbits, els productes han de superar controls tècnics abans d'arribar al mercat. Amodei proposa un esquema similar al de l'agència d'aviació civil dels Estats Units, sota el qual els models més avançats haurien d'acreditar estàndards elevats de seguretat abans del seu llançament. L'executiu argumenta que l'evidència acumulada en els últims mesos demostra que els sistemes d'IA més potents ja tenen rellevància estratègica nacional i internacional. En particular, alerta del potencial d'aquestes eines per afectar infraestructures crítiques, el sistema financer o la seguretat nacional mitjançant capacitats avançades de ciberatac. Aquests riscos, segons el seu parer, justifiquen una intervenció regulatòria més contundent que la que existeix actualment.
Entre altres qüestions, el responsable d'Anthropic planteja diverses propostes per establir incentius que ajudin a protegir l'ocupació. Adverteix que la IA podria provocar desplaçaments laborals disruptius i proposa estudiar mecanismes de suport a la renda si es produís una substitució massiva de llocs de treball. També defensa la creació d'una aliança internacional de democràcies per coordinar normes, cadenes de subministrament i mesures de seguretat relacionades amb la IA. En l'àmbit laboral, proposa mesures concretes com assegurances salarials que compensin les persones quan hagin d'acceptar un lloc de treball pitjor remunerat, incentius fiscals a la retenció per animar els ocupadors a no acomiadar, subvencions per a la formació de la força laboral, i infraestructures per facilitar l'emparellament entre ocupadors i treballadors amb l'objectiu d'accelerar l'adaptació del mercat laboral.
Amodei argumenta que caldria acceptar de bon grat els costos i les ineficiències de mercat que aquestes polítiques podrien implicar. Segons la seva opinió, aquests costos probablement quedarien compensats pels guanys de productivitat impulsats per la mateixa intel·ligència artificial. Malgrat els riscos identificats, el directiu sosté que la tecnologia pot generar beneficis econòmics i científics de gran abast si s'acompanya de marcs regulatoris adequats. L'executiu conclou que la gent està preocupada per la intel·ligència artificial perquè percep correctament que els seus riscos són reals. I demana que aquesta preocupació es converteixi en mesures concretes, no en una oposició generalitzada al desenvolupament de la tecnologia. El seu assaig arriba poques setmanes després que la seva pròpia empresa alertés dels riscos del sistema Mythos, la qual cosa ha donat més pes a les seves demandes reguladores.