L'objectiu d'aconseguir el control mitjançant productes i sistemes d'intel·ligència artificial ha generat oposició a tots els nivells. Aquesta resistència abasta des d'organitzacions que critiquen els buits en la regulació sobre tecnologies de Meta fins a professionals que usen els seus coneixements per protegir la seva privadesa. El dissenyador alemany Simon Weckert forma part d'aquest últim grup. L'artista va crear una samarreta amb un estampat caòtic impossible d'ignorar per a l'ull humà, però completament invisible per als sistemes de vigilància amb IA.
La peça repeteix patrons de color verd, rosa i taronja per trencar la continuïtat del contorn del cos, cosa que impedeix que el sistema de vigilància uneixi les parts en una sola figura humana. "Per a un ésser humà es llegeix com un teixit gairebé hipnòtic; per al model d'IA no significa absolutament res", va declarar Weckert a la publicació Dezeen.
Sí, una camisa creada amb IA aconsegueix burlar el reconeixement facial
L'artista ja havia intervingut prèviament per fer fallar la tecnologia. El 2020 va utilitzar un carretó ple de telèfons intel·ligents per provocar tràfics falsos a Google Maps als carrers de Berlín. Aquesta vegada, la idea de la peça va sorgir de la novel·la Zero History de William Gibson, publicada el 2010. A la pràctica, el disseny va utilitzar el concepte de bucle adversari.
Un bucle adversari és un procés iteratiu de prova i error on dos algoritmes d'IA competeixen entre si: un genera variacions per intentar enganyar o fer fallar el sistema, i l'altre avalua la resposta. Aquest cicle es repeteix contínuament fins a trobar la vulnerabilitat exacta que aconsegueix burlar el model objectiu.
Weckert, qui es descriu com un mag digital de l'era moderna, va alterar el patró de reconeixement de les càmeres de seguretat usant programari d'intel·ligència artificial. "Els sistemes d'IA estan compostos de múltiples capes i mai van aprendre què és un ésser humà; van aprendre com es veuen els humans estadísticament en milions d'imatges d'entrenament", va declarar el dissenyador. "Per a la màquina, una persona és un conjunt d'estadístiques visuals, i aquesta és precisament la seva debilitat".
L'objectiu va quedar demostrat en col·locar-se davant d'una càmera de reconeixement facial. Davant la impossibilitat de rastrejar la silueta humana (la combinació d'espatlles, tors, braços i la continuïtat de les línies del cos), el sistema de vigilància no registra la presència de cap vianant a les seves bases de dades.