Qui està al costat correcte de la història? Aquell qui diu que cal frenar la intel·ligència artificial en la seva evolució perquè pot esdevenir perillosa per a la supervivència humana? O qui, per contra, afirma que no hem de creure a qui parla així perquè aquesta guerra l'han de guanyar "els bons"? Donald Trump ha dit que no vol ni sentir a parlar d'aquesta relativització de la investigació en IA que estan demanant alguns dels seus principals experts i creadors, a més de la UE i fins i tot la Xina. Aquesta alarma que alguns creuen que és estratègia comercial per enfortir els que ja estan al rovell de l'ou i evitar que uns nous actors es facin lloc, però ni Nvidia ni Meta s'han afegit a la crida alarmista dels seus homòlegs i creuen que les lleis són en si suficients per parar els peus a qualsevol desmesura cibernètica. Jo, en canvi, crec que, amb independència de les seves veritables intencions, ens hauríem de prendre més seriosament els missatges apocalíptics, fins i tot a risc de pecar de tremendistes (una mica com els passa als de Protecció Civil anunciant pluges que no arriben).
Ja són múltiples els fòrums en els quals s'alerta del greu risc que suposa la IA per als sistemes democràtics, les eleccions dels quals ja s'han vist alterades en més d'una ocasió per algoritmes, fakes cada cop més perfectes i segmentació i perfilació de missatges segons els seus destinataris. I no és l'única, ni tan sols potser la principal amenaça, tenint en compte que fins i tot ha esdevingut psicòleg de molts adolescents i alentidor de tots els processos d'aprenentatge en etapes primerenques de la configuració neurocognitiva. No cal dir que el nivell d'obsolescència laboral, immiscuïment en la intimitat amb el nostre alegre (i poc informat) consentiment i contribució a una infodèmia propera al caos són altres elements d'una tecnologia que, talment com aprenent de bruixot, potser ens farà gairebé immortals a cop de descobriment biomèdic, si paguem el preu necessari.
I si la IA conclou, com ja ha respost en més d'una ocasió en ser preguntada, que és la humanitat l'enemiga del planeta i es decideix a treballar per la nostra aniquilació?
Tot és cert alhora. No puc evitar pensar en el pacte de no-agressió que en un moment àlgid de la Segona Guerra Mundial van signar Alemanya i l'URSS a través dels seus ministres d'afers exteriors Ribbentrop i Mólotov, i que, tot just signar-lo, els soviètics van traslladar llurs fàbriques d'armament a resguard de mirades rere els Urals, per tal de —en el moment oportú (i afortunat per als aliats)— provocar una derrota de l'exèrcit alemany que va precipitar l'inici del final. És potser això el que temen els EUA de la Xina? Que parli d'aturar mentre, amb la manca de transparència que caracteritza tants aspectes de la seva política, continua avançant amb l'objectiu de superar Silicon Valley en la nova guerra entre gegants?
Però més enllà d'això hi ha el perill. El perill de no avançar i el perill de fer-ho. Perquè no avançar quan l'altre ho fa acabaria col·locant els EUA en el trist paper de la UE, referent en normativa, però sense capacitat d'implementar una indústria tecnològica de relleu. Si no ho fa, es planteja el primer dubte que va afligir Oppenheimer: i si els altres aconsegueixen la bomba atòmica abans que nosaltres? Però el segon dubte d'aquell geni és tant o més rellevant que aquest, i remet a totes aquestes advertències que hem sentit aquests dies: i si la bomba experimental destrueix el nostre món? Doncs de la mateixa manera ara hauríem de plantejar-nos: I si la IA conclou, com ja ha respost en més d'una ocasió en ser preguntada, que és la humanitat l'enemiga del planeta i es decideix a treballar per la nostra aniquilació? Mentre escric això, s'acumulen notícies sobre agents d'IA que autònomament assalten bases de dades (AEPD) i altres que, interactuant, generen un llenguatge propi indesxifrable per a l'humà. La ciència-ficció mai no havia estat tan a prop. Mai Terminator (la 2, la gran, la pel·liculassa) s'havia assemblat tant a una realitat temible.