La camisa Digital Camouflage utiliza manchas rosas, verdes y naranjas para alterar las señales visuales que procesan algunos algoritmos. Su creador presentó el proyecto en Berlín ante la instalación prevista de cámaras con inteligencia artificial en Kottbusser Tor, una plaza del barrio de Kreuzberg. El diseño no vuelve invisible al usuario, pero puede reducir la capacidad de ciertos programas para clasificarlo como una persona.
Un estampado diseñado mediante ataques adversariales
El funcionamiento se basa en un “ataque adversarial”, una técnica que modifica imágenes o patrones para provocar errores en los modelos de reconocimiento. Según explicó Weckert, estos sistemas identifican cuerpos a partir de relaciones estadísticas aprendidas con millones de fotografías. La combinación de formas y colores busca romper la coherencia visual que el software necesita para reconocer una figura humana.
Para desarrollar el estampado, el diseñador utilizó la propia inteligencia artificial. Cada versión de la tela pasó por un detector y los resultados sirvieron para realizar nuevos ajustes. Weckert denominó “bucle adversarial” a ese proceso iterativo, cuya meta fue reducir el nivel de confianza con el que el algoritmo señalaba la presencia de una persona.
Las pruebas incluyeron a YOLO —You Only Look Once—, un sistema de código abierto utilizado para detectar objetos. De acuerdo con una evaluación citada por el portal Gizmodo, otro programa accesible desde un navegador reconoció a personas ubicadas en el fondo de una imagen, pero no clasificó del mismo modo a quien llevaba la camisa en primer plano. El resultado depende del modelo utilizado y no garantiza el mismo efecto ante todos los sistemas de vigilancia.
Una nueva intervención de Simon Weckert
La propuesta continúa una línea de trabajos con los que el diseñador expuso debilidades de distintas plataformas. En 2020, Weckert recorrió Berlín con 99 teléfonos conectados dentro de un carrito y consiguió que Google Maps interpretara el desplazamiento como una concentración de vehículos. La aplicación mostró así embotellamientos que no existían.
Digital Camouflage se suma a otros proyectos de indumentaria desarrollados para dificultar la vigilancia automatizada. Empresas como Urban Privacy y Cap_able también comercializan remeras, buzos, bufandas y prendas tejidas con patrones orientados a desestabilizar ciertos detectores. La camisa de Weckert lleva esa discusión al terreno del diseño y plantea interrogantes sobre privacidad, espacio público y reconocimiento mediante inteligencia artificial.
—
