De acuerdo con Reuters, cuatro de las grandes empresas de tecnología respecto a IA han sido citadas con funcionarios de la Casa Blanca para un asunto relacionado con pruebas de seguridad voluntarias del gobierno para los modelos de IA estadounidenses más avanzados. El problema es que dos de las más importantes, como son OpenAI y Anthropic, han tenido problemas con sus propias herramientas de IA al afirmar que han vulnerado sistemas de otras empresas, por lo que la cúpula del país norteamericano está preocupada respecto a qué pueden hacer los modelos de IA en un futuro respecto a ciberataques.
Del lado del gobierno de Trump, se ha sabido que han terminado los detalles de las pruebas voluntarias de ciberseguridad para medir la capacidad de los modelos de IA respecto al "pirateo" y quieren discutirlas con las empresas mencionadas. No se sabe si irán directamente los mandos más altos, los CEOs, o los responsables directos de los modelos.
La Casa Blanca vigila muy de cerca a las grandes empresas de IA y sus problemas
Como sabemos que el entorno gubernamental se maneja con mucha secrecía, la Casa Blanca no reveló ningún detalle sobre las pruebas, además de que no informarán de los resultados y las métricas. Se sabe que un grupo de 15 fiscales generales de varios estados republicanos solicitó a OpenAI que conservara los documentos relacionados con la revelación de que su sistema de IA escapó de la contención y hackeó a Hugging Face. Reuters informó en su momento que el mismo agente que estaba fuera de control dejó notas de cómo futuras versiones podrían evadir las medidas de seguridad internas; escribieron que OpenAI pudo violar las leyes estatales de protección al consumidor.
Del lado de la empresa que dirige Sam Altman, manifestó que se toma en serio la carta de los fiscales generales y que, una vez que se complete la revisión, se compartirá el informe técnico de todo lo sucedido. El comité de ciberseguridad de la Cámara de Representantes de Estados Unidos solicitó información respecto al ataque. El propio Altman acudió a la Casa Blanca durante la semana pasada para discutir los detalles detrás de las pruebas voluntarias y sobre próximos productos de la compañía que representa. Aprovechó la oportunidad para solicitar a la administración que pusieran a sus especialistas en seguridad de IA del Departamento de Comercio para cualquier prueba de ciberseguridad.
Mientras todo esto sucedía, la administración citó a más empresas. Google fue citada y no respondió a la solicitud de comentarios para saber sus impresiones sobre el tema o compartir algo respecto a lo que la Casa Blanca solicitó a la empresa de Mountain View. Respecto a las pruebas, estas podrían haber surgido desde el mes de junio encargado por el propio presidente Trump; no quería dejar de tener el control sobre más cosas. Lo que quieren tener es el control del conocimiento y saber hasta dónde pueden llegar dichos modelos de IA.
Respecto a Anthropic, no se ha comentado nada desde que hubo un rompimiento por el tema de negarse a que el ejército de los Estados Unidos usara sus modelos de IA con fines de vigilancia y de los sistemas de armas autónomas. Por si fuera poco, también tuvieron una infiltración en sistemas de tres empresas en pruebas de ciberseguridad. Veremos hasta dónde llega la injerencia del gobierno en el aspecto de mantener todo bajo control.