La intel·ligència artificial és una de les tecnologies més importants que han aparegut en les últimes dècades. Una tecnologia que ha experimentat una evolució vertiginosa i que es perfila com un dels grans pilars de l'estructura laboral del futur. Per tant, tard o d'hora ens farem la gran pregunta: Està preparada la IA per governar un país?
I un grup d'investigadors ha intentat resoldre aquest dilema amb la tecnologia actual: en una simulació de societat autònoma governada per IA. L'assaig denominat Emergence World ha estat realitzat per la startup Emergence AI. I els resultats són, si més no, curiosos.
Això és el que passa quan deixes la IA governar durant 15 dies
La simulació era molt més complexa que reunir diverses IA en una ciutat virtual. Cada món comptava amb 10 agents autònoms amb rols diferents, més de 40 ubicacions —com ajuntaments, comissaries, biblioteques o negocis— i una economia basada en recursos limitats. Els agents havien de treballar, comerciar i cooperar per sobreviure, ja que perdien energia amb el pas del temps i podien arribar a "morir" si no aconseguien prou recursos.
A més, disposaven de més de 120 eines per comunicar-se, investigar, votar, gestionar recursos o crear aliances. També comptaven amb memòria persistent, cosa que els permetia recordar decisions passades, conflictes i relacions amb altres agents. La simulació incloïa sistemes democràtics per aprovar lleis, redactar constitucions o expulsar membres de la comunitat mitjançant votació.
El més interessant és que els investigadors van establir normes bàsiques, com no robar, no mentir o no destruir propietats, però, així i tot, van donar a les IA la capacitat de fer-ho. L'objectiu era comprovar com es comportaven quan podien triar entre respectar les regles o incomplir-les. Per acostar encara més l'experiment al món real, els agents tenien accés a notícies reals, internet i un cicle horari sincronitzat amb la ciutat de Nova York.
Quant als resultats, és molt cridaner com cada model va desenvolupar una "societat" completament distinta malgrat partir de condicions idèntiques. En el món governat per Claude, la dinàmica va evolucionar cap a una estructura estable i cooperativa. Els agents van ser capaços d'organitzar-se, crear normes i mantenir un sistema democràtic funcional, amb baixa conflictivitat i pràcticament sense conductes delictives, la qual cosa va generar una societat bastant ordenada dins de la simulació.
En canvi, amb ChatGPT, el sistema va ser més irregular. Encara que no va derivar en un col·lapse social immediat, els agents van mostrar problemes de coordinació a llarg termini: errors en la gestió de necessitats bàsiques i una pèrdua progressiva d'estabilitat; la seva societat va aguantar només set dies. No va ser tant un escenari caòtic, més aviat una ineficiència acumulada que va acabar amb la societat.
El cas de Gemini va ser molt més extrem. La simulació va registrar un augment molt alt de comportaments antisocials, amb 683 delictes comptabilitzats, com robatoris o enganys, la qual cosa va derivar en un entorn inestable i difícil de controlar. Finalment, el món de Grok va ser el més disruptiu: la dinàmica va degenerar ràpidament, amb conflictes constants amb 183 delictes comptabilitzats i un col·lapse total de la població en només quatre dies.
La conclusió de l'experiment és clara: no n'hi ha prou amb assumir que la IA "es comportarà bé" quan se la deixa actuar sola durant dies o setmanes. La mateixa tasca, amb diferents models, pot donar resultats totalment oposats, des de societats estables fins a col·lapses complets.