El 30 d'octubre de 2025, un avió de JetBlue volava de Cancún a Newark amb cel clar; de sobte, l'aeronau es va llançar en picada. Els passatgers van colpejar el sostre i un carret de begudes va aixafar una hostessa contra el plafó de la cabina, en una caiguda que va durar cinc segons. Després l'avió es va anivellar sol, la tripulació va aterrar d'emergència a Tampa i 22 persones van acabar en mans dels metges. Mentrestant, ningú va morir, i per això la notícia va passar gairebé inadvertida.

Els Airbus porten dues computadores bessones per controlar el vol; una treballa i l'altra vigila. Quan la primera va donar l'ordre absurda de picar, la segona va detectar en segons que alguna cosa no quadrava, va prendre el comandament i va redreçar la nau. L'avió no el va salvar una computadora perfecta, sinó una que desconfiava de l'altra.

Els investigadors del govern nord-americà van trigar un mes a resoldre l'enigma. Van descartar la turbulència perquè els registres van mostrar que cap corrent d'aire va empènyer l'avió. Així mateix, els pilots estaven fora de l'equació perquè el pilot automàtic va estar activat tot el temps. D'altra banda, els sensors funcionaven a la perfecció. Després, van desarmar les computadores de vol fins al nivell microscòpic i no van trobar cap defecte. Quedava una sola explicació possible i era tan inversemblant que els mateixos enginyers es van resistir a creure-la.

Fa milions d'anys, en un racó llunyà de la galàxia, una estrella va explotar i va disparar partícules a velocitats properes a la de la llum. Una d'aquestes partícules va viatjar durant milions d'anys pel buit fins que el 2025 va arribar a la Terra. Va xocar contra un àtom a la part alta de l'atmosfera i d'aquest xoc va sortir disparat un neutró. Un neutró és un fragment d'àtom, i és una estella tan petita que travessa la matèria com si no existís. Aquest neutró va baixar 15 quilòmetres, va travessar el sostre de l'avió, potser el cos d'un pilot, el pis de la cabina i la carcassa metàl·lica d'una computadora de vol, fins que es va estavellar contra un punt precís d'un circuit.

Tota computadora guarda la seva informació en cel·les diminutes que només coneixen dos estats, encès o apagat, 1 o 0. Cada cel·la es diu bit. Imagineu una paret infinita d'interruptors de llum, on cadascun està encès o apagat i la combinació de tots ells forma els números, les paraules i les ordres de la màquina. El neutró va colpejar un d'aquests interruptors i el va canviar de posició. Així, un 1 es va tornar un 0, res més que això.

Però aquest interruptor formava part del número que li deia a l'avió com es movia. Amb el bit canviat, la computadora va creure que l'avió pujava de forma descontrolada i va ordenar baixar el morro amb violència. L'ascens era imaginari, però l'ordre va ser real. Una partícula invisible, disparada per una estrella morta abans que existís la humanitat, va tirar un avió comercial cap a terra.

Quan Airbus va entendre el que va passar, l'empresa i els reguladors van ordenar que uns 6.000 avions no tornessin a volar fins a corregir el problema. La vulnerabilitat estava en la versió més nova del programa de vol, dissenyada justament per afegir proteccions, i el remei va consistir a tornar a la versió anterior, més vella i més provada. El sistema més sofisticat va obrir la porta que el sistema humil mantenia tancada. En dies, gairebé tota la flota va tornar a l'aire.

Aquests impactes no són una raresa. La Terra rep un bombardeig constant de partícules còsmiques i els bits es giren tot el temps en totes les màquines del planeta. Un estudi que va seguir durant anys els milers de xips gràfics d'una supercomputadora americana va mesurar que cada xip pateix un bit invertit cada 3,2 anys de mitjana. Sona a poc, però ara fem el compte que ningú fa. Un centre de dades d'intel·ligència artificial modern reuneix centenars de milers d'aquests xips treballant sense pausa, dia i nit. Amb 200.000 xips, el compte dona unes 170 inversions de bit per dia en un sol edifici. En tota la indústria de la IA són milers d'errors diaris. El que a escala d'una computadora domèstica és una casualitat d'una vegada per dècada, a escala de la IA és un fenomen de cada dia. L'atzar deixa de ser aleatori quan se'l multiplica prou i es converteix en certesa estadística.

Google i Meta van descobrir a més alguna cosa pitjor quan van revisar els seus centres de dades. No només els raigs còsmics giren bits, ja que hi ha xips que surten de fàbrica amb defectes tan subtils que calculen malament de tant en tant, sense avís i sense deixar rastre. Els enginyers ho anomenen corrupció silenciosa de dades. És un empleat que de tant en tant anota malament un número en el llibre comptable i ningú l'audita perquè ningú sospita d'ell.

La IA té un avantatge sobre l'avió perquè les seves xarxes s'assemblen menys a un rellotge i més a un cervell. Un model d'IA guarda el seu coneixement repartit en milers de milions de cel·les i, quan respon una consulta, si una cel·la falla, les altres compensen, igual que un cervell humà sobreviu a la mort diària de neurones. A l'avió, un sol bit representava una variable crítica, però en la IA, un bit danyat gairebé sempre es perd en la multitud. El perill real està en l'entrenament, aquest procés de mesos en què el model aprèn. Si una dada corrupta s'hi cola, l'error no passa de llarg, sinó que s'incorpora a milions de cel·les i queda cuinat per sempre dins del sistema, un defecte permanent que ningú podrà trobar ni explicar.

Tots aquests errors cauen d'un en un, repartits a l'atzar entre milions de màquines. Hi ha un escenari on cauen tots junts perquè el bombardeig de partícules no és constant i depèn de l'humor del Sol. Quan el Sol llança una de les seves erupcions grans, el flux de partícules sobre la Terra es multiplica per 10 o per 100. El 1859, una tempesta solar coneguda com l'esdeveniment Carrington va incendiar les oficines de telègraf del món, que era tota la tecnologia elèctrica de l'època.

Els astrònoms asseguren que una tempesta així torna a ocórrer tard o d'hora. Quan succeeixi, no trobarà telègrafs, sinó la infraestructura de còmput més gran de la història humana, amb els seus milers d'errors diaris convertits en centenars de milers, tots al mateix temps, en tots els centres de dades del planeta alhora. Ja hi ha un antecedent cèlebre en petit quan en una elecció belga de 2003 una candidata va rebre 4.096 vots de més, un número que és potència exacta de 2, la signatura inconfusible d'un bit invertit.

Impedir que les partícules arribin és impossible. El neutró travessa l'acer, el formigó i el plom. L'únic que pot fer-se és detectar i corregir els errors que produeix. Les memòries dels servidors ja ho fan amb un sistema que revisa cada dada i repara els bits solts que es giren. Però aquesta comprovació no arriba als errors de càlcul, aquells que la corrupció silenciosa produeix dins del xip mentre pensa. Aquí l'única defensa coneguda és la de l'Airbus, és a dir, duplicar els cervells perquè un vigili l'altre. La redundància encareix i la indústria de la IA corre una carrera on cada dòlar compta.

Aquesta és la distinció que aquest episodi deixa al descobert. Una computadora correcta és la que no s'equivoca, però una fiable és la que s'equivoca i ho detecta a temps. La primera és impossible, perquè l'univers sencer conspira contra ella amb la seva pluja de partícules. La segona és l'única que l'enginyeria pot construir.

L'avió de JetBlue va caure quan la computadora enganyada només controlava un timó de cua i va sobreviure perquè una altra computadora la vigilava. Avui la IA escriu textos i un bit errat produeix a tot estirar una paraula absurda que el lector descarta. Però la indústria avança cap a sistemes que executen accions sobre el món real, que mouen diners, operen xarxes elèctriques, manegen vehicles i prenen decisions sense supervisió humana. El pròxim neutró ja ve en camí i no preguntarà si la màquina que li toca controla un timó de cua, una central elèctrica o un compte bancari. L'única pregunta oberta és si algú va posar un segon cervell a vigilar.

Les coses com són.