L'alt comissionat de les Nacions Unides per als Drets Humans, Volker Türk, ha advertit que el ràpid desenvolupament de la intel·ligència artificial posa en risc tots els drets humans, inclosos els drets a la vida, l'alimentació, la privacitat, la salut i la seguretat. Davant l'acceleració dels sistemes més avançats, ha reclamat una resposta urgent dels estats i de les empreses. "Estem a la vora d'un canvi irreversible que afectarà no només nosaltres, sinó també les futures generacions de la humanitat", ha alertat Türk. Segons l'alt comissionat, la seguretat de la IA no es pot limitar a garantir la fiabilitat tècnica dels productes, sinó que ha d'incloure la protecció de les persones, les comunitats, les institucions i les generacions futures.
El responsable de drets humans de l'ONU considera que "la carrera actual cap a una IA cada vegada més potent suposa un salt qualitatiu cap a riscos existencials més grans per a tots els aspectes de les nostres vides". Una de les principals preocupacions se centra en la denominada IA agèntica, formada per sistemes capaços d'operar amb un grau més elevat d'autonomia i prendre decisions. Türk ha advertit que les fallades d'aquests sistemes "podrien paralitzar serveis essencials, fracturar les comunicacions, desestabilitzar infraestructures crítiques i colpejar el cor mateix de les institucions democràtiques". També ha assenyalat que poblacions senceres podrien quedar sense accés a serveis com l'aigua, la calefacció o els serveis financers.
L'alt comissionat ha alertat igualment de l'impacte de la intel·ligència artificial en els conflictes. Segons ha afirmat, aquesta tecnologia "ja està accelerant el ritme de les guerres, ampliant-ne l'abast i erosionant les salvaguardes que s'interposen entre nosaltres i el llançament d'armes de destrucció massiva". Davant d'aquests riscos, Türk reclama reforçar la regulació existent, establir mecanismes de rendició de comptes pels danys causats per sistemes d'IA que ja estan en funcionament i implantar controls independents amb capacitat tècnica per avaluar-los. També defensa una regulació compartida amb la indústria com a primer pas urgent.
OpenAI, Google, Anthropic i xAI, els responsables
L'ONU considera que les empreses situades al capdavant del desenvolupament dels models d'IA més avançats, concentrades principalment als Estats Units i la Xina, tenen capacitat i responsabilitat per reduir immediatament els riscos. Entre les mesures plantejades hi ha reforçar els controls sobre els sistemes, compartir els aprenentatges derivats dels incidents de seguretat i aplicar processos rigorosos de diligència deguda en matèria de drets humans. Les advertències arriben en un moment en què diverses figures vinculades al sector tecnològic han expressat preocupació per la velocitat amb què avancen aquests models. Entre elles hi ha el conseller delegat d'Anthropic, Dario Amodei; el director executiu d'OpenAI, Sam Altman, i Elon Musk, que han reclamat frenar deliberadament el desenvolupament dels sistemes més avançats davant riscos com una eventual pèrdua de control.
Amodei ha advertit, en concret, sobre la possibilitat que sistemes cada vegada més autònoms arribin a millorar-se de manera recursiva. També l'enginyer Jacob Coxon va deixar el seu lloc a Anthropic la setmana passada i va alertar públicament dels riscos que, al seu parer, assumeixen les empreses en la cursa per desenvolupar una superintel·ligència. Per a Türk, la resposta no pot quedar en mans d'un sol govern ni d'una sola companyia. "Cap país pot governar aquesta tecnologia per si sol, cap empresa hauria de poder decidir per si sola quins riscos ha d'acceptar el món, i cap persona hauria de veure's obligada a renunciar als seus drets humans a canvi de promeses de progrés tecnològic", ha conclòs.