Ante los hechos que se han registrado en los últimos años en cuanto a hackeos, accesos no autorizados y cualquier cosa que la propia IA ha logrado vulnerar, no es de extrañarse que el gobierno estadounidense quiera tener una especie de botón mágico de apagado en caso de que los máximos responsables no puedan tenerla bajo su control. Un nuevo proyecto bipartidista quiere establecer una especie de mecanismo externo que detenga la IA, ralentice su funcionamiento o impida que los usuarios accedan a ella. Puede que ya hayamos tenido un ejemplo con lo que hizo el gobierno hace algunas semanas con Claude.
AI Kill Switch Act, impulsado por el congresista demócrata Ted Lieu y Nathaniel Moran, republicano por el estado de Texas. El Departamento de Seguridad Nacional podría ordenar este apagado, con previa consulta hacia el secretario de comercio y al director de inteligencia nacional.
La IA tendría un botón de apagado en Estados Unidos
Este control no es para nada exagerado, tomando en cuenta que no tomarán errores que ya son comunes, entre equivocarse, dar respuestas fuera de toda lógica o en caídas del servicio. La medida aplicaría solo para pérdidas de control donde la IA pueda causar la muerte o daños económicos que superen los 100 millones de dólares. En un escenario catastrófico, el mismo gobierno podría intervenir en caso de que el mismo mecanismo intente ocultar o esquivar el intento de apagado. El interruptor debería quedar fuera del alcance del modelo, para evitar un mayor problema.
En este caso, no es un botón que mitigue todo de inmediato. Se trata de un mecanismo donde las empresas deben estar preparadas para que puedan desconectar todo el sistema, reducir las capacidades o suspender el acceso de los usuarios. Las autoridades van a limitar a la IA mientras se investiga qué ha hecho y si el peligro ya ha sido erradicado o está presente.
Esta propuesta estaría fijada a desarrolladores con al menos 500 millones de dólares de ingresos anuales y a los modelos cuyo entrenamiento haya consumido más de 100 millones de dólares bajo el rubro de capacidad de computación. Traducido en pocas palabras, estarán sujetas las grandes empresas de IA. De lado de estas, no pueden estar a expensas de ver en el momento si hay que cumplir o no. Las empresas podrían ser multadas con hasta 20 millones de dólares diarios. Ted Lieu indicó que los sistemas de IA potentes pueden descontrolarse, comportarse de manera peligrosa o resistirse a la intervención humana.
Por lo que es cuestión de tiempo para que esta iniciativa de ley pueda superar el Congreso; los demócratas y republicanos se unirán por un bien en común y solo es cuestión de tiempo para que se apruebe y se comience a trabajar en dicho mecanismo. Este ejemplo podría servir como control de la IA y replicarse en otros países. ¿Crees que pueda suceder algo parecido en Europa?