L'autonomia total en sistemes militars apareix moltes vegades en pel·lícules i en conferències tecnològiques com si fos un pas lògic dins del camí de la intel·ligència artificial (IA). La idea sona simple, amb màquines que veuen, entenen i decideixen sense intervenció humana. La realitat tècnica és distinta: perquè un sistema actuï sense supervisió necessita capacitats que avui no existeixen dins d'una màquina. L'explicació es pot donar des de zero, sense pressupòsits tècnics, amb anàlisis del funcionament d'un sistema autònom.
Un sistema autònom necessita primer percebre l'entorn. La percepció no és solament veure. La percepció combina càmeres, radar, infraroig, micròfons especialitzats i sensors que detecten calor, moviment, vibració o emissions electromagnètiques. En un laboratori els sensors funcionen de manera neta, tanmateix, en una guerra la situació és oposada. Hi ha fum, pols, interferències, calor extrema, reflexos falsos i senyals dissenyades per confondre. Un detector que funciona bé en un dia clar perd exactitud en un entorn real. Empreses com Raytheon, Lockheed Martin, Northrop Grumman, Elbit o Thales fabriquen sensors avançats i cadascuna aporta millores importants. Així i tot, els dispositius actuals no són estables sota condicions on l'objectiu és enganyar la màquina.
La percepció a més necessita energia. Un dron petit depèn de bateries lleugeres. La bateria alimenta el motor, les hèlices, els sensors i la computadora interna. Cada minut de vol consumeix energia. Si afegim un processador gran que executa models d'IA, el consum augmenta. Un dron amb poca potència no pot mantenir un model complex actiu durant molt de temps. Això explica per què les empreses fabriquen xips especials que consumeixen poc. Hailo a Israel produeix processadors dissenyats per a baixa energia. Intel Movidius, Nvidia Jetson i Habana Labs segueixen el mateix camí. Tots permeten percepció ràpida amb consum reduït, però cap sosté un model gran capaç de raonament profund dins d'una plataforma petita.
Un avió de combat sí disposa d'energia. En una aeronau moderna sobren quilovats per a radars, sensors i ordinadors. En aquest entorn la potència deixa de ser el límit i aquest canvia de lloc, passa al pla cognitiu. La clau és que la màquina necessita interpretar el que veu, alhora que rep milers de dades per segon. Un punt de calor pot ser un motor o una trampa tèrmica, o un senyal de radar pot ser un avió o un reflex; un soroll de ràdio pot ser comunicació real o interferència. L'enemic dissenya l'entorn per produir senyals enganyosos i tot està fet per trencar patrons. Una màquina que reconeix avions en un conjunt de dades no distingeix sense ajuda humana quan l'entorn canvia i deixa de semblar-se al que ha après.
La IA actual funciona identificant patrons. Si l'entorn manté aquests patrons, la màquina encerta, per contra, si l'entorn canvia per complet, la màquina no sap què fer. La guerra canvia els patrons de manera intencional i el dispositiu tendeix a equivocar-se de manera simultània en totes les unitats que comparteixen el mateix model. L'error s'estén a tot el sistema i provoca fallades coordinades
La manera de resoldre això seria comptar amb una IA que no depengui únicament de patrons estadístics. Caldria una arquitectura diferent capaç de crear un model intern de l'entorn. Aquest representa posicions d'objectes, estats possibles d'actors, efectes físics del vent i de la calor, escenaris futurs i canvis probables. Compara el que espera veure amb el que realment veu, i aquesta diferència li indica si l'entorn està dins del normal o si alguna cosa va canviar de manera significativa. Aquest procés s'assembla a la manera com un pilot humà detecta senyals estranys. El pilot no necessita haver vist abans una situació per comprendre que alguna cosa no encaixa, identifica la ruptura del patró i actua amb cautela.
Encara no existeix una arquitectura que produeixi aquest nivell d'interpretació. Els models generen respostes basades en estadístiques apreses, sense hipòtesis o explicacions internes. Tampoc generen escenaris futurs a partir d'una comprensió profunda de la física i de les intencions enemigues. Aquests límits expliquen per què fins i tot els avions més avançats mantenen un pilot que pren les decisions complexes, mentre la màquina organitza la informació i assisteix amb càlculs i suggeriments.
L'autonomia total ha d'avançar en percepció estable, sensors resistents, energia distribuïda i sobretot en una intel·ligència capaç de simular l'entorn, comparar hipòtesis i prendre decisions quan els senyals són contradictoris. Ningú d'aquestes peces està completa. Existeixen avenços en sensors, en xips de baix consum i en simulació, encara que no convergeixen en un sistema unificat. L'autonomia total no requereix models més grans, requereix una forma diferent d'intel·ligència.
Les coses com són.