Davant els fets que s'han registrat en els últims anys quant a hackejos, accessos no autoritzats i qualsevol cosa que la mateixa IA ha aconseguit vulnerar, no és d'estranyar que el govern estatunidenc vulgui tenir una mena de botó màgic d'apagat en cas que els màxims responsables no puguin tenir-la sota el seu control. Un nou projecte bipartidista vol establir una mena de mecanisme extern que aturi la IA, alenteixi el seu funcionament o impedeixi que els usuaris hi accedeixin. Pot ser que ja hàgim tingut un exemple amb el que va fer el govern fa algunes setmanes amb Claude.
AI Kill Switch Act, impulsat pel congressista demòcrata Ted Lieu i Nathaniel Moran, republicà per l'estat de Texas. El Departament de Seguretat Nacional podria ordenar aquest apagat, amb prèvia consulta cap al secretari de comerç i al director d'intel·ligència nacional.
La IA tindria un botó d'apagat als Estats Units
Aquest control no és gens exagerat, tenint en compte que no prendran errors que ja són comuns, entre equivocar-se, donar respostes fora de tota lògica o en caigudes del servei. La mesura aplicaria només per a pèrdues de control on la IA pugui causar la mort o danys econòmics que superin els 100 milions de dòlars. En un escenari catastròfic, el mateix govern podria intervenir en cas que el mateix mecanisme intenti ocultar o esquivar l'intent d'apagat. L'interruptor hauria de quedar fora de l'abast del model, per evitar un problema més gran.
En aquest cas, no és un botó que mitigui tot immediatament. Es tracta d'un mecanisme on les empreses han d'estar preparades perquè puguin desconnectar tot el sistema, reduir les capacitats o suspendre l'accés dels usuaris. Les autoritats limitaran la IA mentre s'investiga què ha fet i si el perill ja ha estat eradicat o és present.
Aquesta proposta estaria fixada a desenvolupadors amb almenys 500 milions de dòlars d'ingressos anuals i als models l'entrenament dels quals hagi consumit més de 100 milions de dòlars sota el rubro de capacitat de computació. Traduït en poques paraules, estaran subjectes les grans empreses d'IA. De banda d'aquestes, no poden estar a expenses de veure en el moment si cal complir o no. Les empreses podrien ser multades amb fins a 20 milions de dòlars diaris. Ted Lieu va indicar que els sistemes d'IA potents poden descontrolar-se, comportar-se de manera perillosa o resistir-se a la intervenció humana.
Per la qual cosa és qüestió de temps perquè aquesta iniciativa de llei pugui superar el Congrés; els demòcrates i republicans s'uniran per un bé en comú i només és qüestió de temps perquè s'aprovi i es comenci a treballar en aquest mecanisme. Aquest exemple podria servir com a control de la IA i replicar-se en altres països. Creus que pugui succeir alguna cosa semblant a Europa?