El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, ha advertido que el rápido desarrollo de la inteligencia artificial pone en riesgo todos los derechos humanos, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad. Ante la aceleración de los sistemas más avanzados, ha reclamado una respuesta urgente de los estados y de las empresas. "Estamos al borde de un cambio irreversible que afectará no solo a nosotros, sino también a las futuras generaciones de la humanidad", ha alertado Türk. Según el alto comisionado, la seguridad de la IA no se puede limitar a garantizar la fiabilidad técnica de los productos, sino que debe incluir la protección de las personas, las comunidades, las instituciones y las generaciones futuras.
El responsable de derechos humanos de la ONU considera que "la carrera actual hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas". Una de las principales preocupaciones se centra en la denominada IA agéntica, formada por sistemas capaces de operar con un grado más elevado de autonomía y tomar decisiones. Türk ha advertido que las fallas de estos sistemas "podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear el corazón mismo de las instituciones democráticas". También ha señalado que poblaciones enteras podrían quedarse sin acceso a servicios como el agua, la calefacción o los servicios financieros.
El alto comisionado ha alertado igualmente del impacto de la inteligencia artificial en los conflictos. Según ha afirmado, esta tecnología "ya está acelerando el ritmo de las guerras, ampliando su alcance y erosionando las salvaguardas que se interponen entre nosotros y el lanzamiento de armas de destrucción masiva". Ante estos riesgos, Türk reclama reforzar la regulación existente, establecer mecanismos de rendición de cuentas por los daños causados por sistemas de IA que ya están en funcionamiento e implantar controles independientes con capacidad técnica para evaluarlos. También defiende una regulación compartida con la industria como un primer paso urgente.
OpenAI, Google, Anthropic y xAI, los responsables
La ONU considera que las empresas situadas al frente del desarrollo de los modelos de IA más avanzados, concentradas principalmente en Estados Unidos y China, tienen capacidad y responsabilidad para reducir inmediatamente los riesgos. Entre las medidas planteadas está reforzar los controles sobre los sistemas, compartir los aprendizajes derivados de los incidentes de seguridad y aplicar procesos rigurosos de diligencia debida en materia de derechos humanos. Las advertencias llegan en un momento en que varias figuras vinculadas al sector tecnológico han expresado preocupación por la velocidad con que avanzan estos modelos. Entre ellas están el consejero delegado de Anthropic, Dario Amodei; el director ejecutivo de OpenAI, Sam Altman, y Elon Musk, que han reclamado frenar deliberadamente el desarrollo de los sistemas más avanzados ante riesgos como una eventual pérdida de control.
Amodei ha advertido, en concreto, sobre la posibilidad de que sistemas cada vez más autónomos lleguen a mejorarse de manera recursiva. También el ingeniero Jacob Coxon dejó su puesto en Anthropic la semana pasada y alertó públicamente de los riesgos que, a su parecer, asumen las empresas en la carrera por desarrollar una superinteligencia. Para Türk, la respuesta no puede quedar en manos de un solo gobierno ni de una sola compañía. "Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo, y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico", ha concluido.