El objetivo de lograr el control mediante productos y sistemas de inteligencia artificial ha generado oposición en todos los niveles. Esta resistencia abarca desde organizaciones que critican los vacíos en la regulación sobre tecnologías de Meta hasta profesionales que usan sus conocimientos para proteger su privacidad. El diseñador alemán Simon Weckert forma parte de este último grupo. El artista creó una camiseta con un estampado caótico imposible de ignorar para el ojo humano, pero completamente invisible para los sistemas de vigilancia con IA.
La prenda repite patrones de color verde, rosa y naranja para romper la continuidad del contorno del cuerpo, lo que impide que el sistema de vigilancia una las partes en una sola figura humana. "Para un ser humano se lee como un tejido casi hipnótico; para el modelo de IA no significa absolutamente nada", declaró Weckert a la publicación Dezeen.
Sí, una camisa creada con IA logra burlar el reconocimiento facial
El artista ya había intervenido previamente para hacer fallar la tecnología. En 2020 utilizó un carrito repleto de teléfonos inteligentes para provocar tráficos falsos en Google Maps en las calles de Berlín. Esta vez, la idea de la prenda surgió de la novela Zero History de William Gibson, publicada en 2010. En la práctica, el diseño utilizó el concepto de bucle adversario.
Un bucle adversario es un proceso iterativo de prueba y error donde dos algoritmos de IA compiten entre sí: uno genera variaciones para intentar engañar o fallar al sistema, y el otro evalúa la respuesta. Este ciclo se repite continuamente hasta encontrar la vulnerabilidad exacta que logra burlar el modelo objetivo.
Weckert, quien se describe como un mago digital de la era moderna, alteró el patrón de reconocimiento de las cámaras de seguridad usando software de inteligencia artificial. "Los sistemas de IA están compuestos de múltiples capas y nunca aprendieron qué es un ser humano; aprendieron cómo se ven los humanos estadísticamente en millones de imágenes de entrenamiento", declaró el diseñador. "Para la máquina, una persona es un conjunto de estadísticas visuales, y esa es precisamente su debilidad".
El objetivo quedó demostrado al colocarse frente a una cámara de reconocimiento facial. Ante la imposibilidad de rastrear la silueta humana (la combinación de hombros, torso, brazos y la continuidad de las líneas del cuerpo), el sistema de vigilancia no registra la presencia de ningún peatón en sus bases de datos.