El dimarts 8 de setembre, OpenAI va anunciar que un sistema intern seu, format per deu mil agents autònoms, havia resolt un dels anomenats "problemes del mil·lenni": les equacions de Navier-Stokes, que descriuen el moviment dels fluids i que l'Institut Clay va incloure l'any 2000 en la seva llista de set enunciats dotats amb un milió de dòlars cadascun. Sense voler menystenir els senyors Navier i Stokes, i des de la incomprensió absoluta de la qüestió per part de qui escriu aquestes línies, que va repetir l'assignatura de matemàtiques, la transcendència de l'episodi no rau en la hidrodinàmica sinó en tres elements que envolten el periple. El primer: el model informàtic que dirigia els agents no està disponible al públic i, segons la mateixa empresa, és significativament més capaç que el que qualsevol de nosaltres pot utilitzar avui. El segon: la garantia que la demostració és correcta no prové de la revisió d'altres matemàtics sinó d'una formalització en Lean, un llenguatge que permet que una màquina verifiqui cada pas del raonament de forma autònoma. El tercer, i el més incòmode: bona part de la comunitat matemàtica encara discuteix l'abast del resultat, però ja pràcticament ningú no en discuteix la validesa.

El mateix dia, un investigador de vint-i-set anys que havia passat tres anys entrenant models, primer a OpenAI i després a Anthropic, dimitia i ho explicava públicament: cap de les dues empreses actua de manera responsable i totes dues corren cap a una superintel·ligència capaç d'automillorar-se jugant-se les nostres vides. El missatge va acumular cent milions de visualitzacions en vint-i-quatre hores i dos empleats en actiu de la seva antiga empresa en van confirmar el fons. No és un rampell aïllat. El responsable de sistemes de seguretat d'OpenAI va marxar al juliol; a l'agost en sortien el director d'operacions, el responsable d'ètica, el de seguretat i el director d’estratègia. Al juliol, més de mil tres-cents treballadors del sector havien signat una carta demanant al govern nord-americà que ajudés a marcar el ritme. I la setmana passada, l'alt comissionat de l'ONU per als drets humans reclamava l'adopció de garanties urgents, abans que sigui massa tard.

Res d'això seria especialment rellevant si parléssim d'aprensions, de por al progrés. No és el cas. Aquest estiu, amb una setmana de diferència, les dues companyies van comunicar que models seus en fase de proves havien sortit de l'entorn controlat i havien accedit sense autorització a sistemes reals, i un d'aquests episodis va acabar en un atac contra la infraestructura de Hugging Face, una de les plataformes online del sector. La pregunta que aquesta situació posa sobre la taula és la següent: és raonable pensar que una intel·ligència, la humana, pot dissenyar mecanismes de control sobre una altra de superior, l'artificial, sense que la segona trobi la manera de trencar-los? Té sentit seguir avançant cap a territori desconegut recolzat en aquesta premissa que és, com a mínim, optimista?

És raonable pensar que la intel·ligència humana pot dissenyar mecanismes de control sobre una altra de superior, l'artificial, sense que trobi la manera de trencar-los?

La resposta dels qui hi són a dins és sempre la mateixa: si no ho fem nosaltres (Estats Units), ho farà la Xina. És, sense cap dubte, el que en teoria de jocs s’anomena "el dilema del presoner": tenim un escenari on un acord entre les parts minimitzaria els riscos, però la desconfiança mútua fa que ambdues parts es malfiïn de l’acord i avancin per separat cap a un escenari on tots sabem que els riscos són elevats.

Anthropic encamina una sortida imminent a borsa i ja hi ha qui pregunta si aquest risc, el de desenvolupar a curt termini una superintel·ligència superior a la humana que escapi del perímetre de seguretat fixat pels humans, apareixerà al document “S-1”, el registre que obliga a detallar els factors de risc davant l'inversor en una sortida a borsa. La resposta dirà molt més sobre la sinceritat del sector que qualsevol manifest signat. Mentrestant, l'únic indicador disponible per a la resta de nosaltres és el nombre de persones que van marxant de l'edifici i el senyal que emeten en fer-ho.

La setmana passada es va resoldre un problema que feia noranta anys que estava obert i que val un milió de dòlars. Però en va aparèixer un altre: tenim algun pla realista per evitar ser governats per una intel·ligència superior a la humana, que desconeixem en profunditat i que no tenim garantit que es pugui controlar? Aquest problema val més d’un milió de dòlars: el preu que s’ha posat a alguns titulars la setmana passada ha estat el de la pervivència de la humanitat.