indignatieai-redactie 
Het bizarre patroon op dit kledingstuk van ontwerper Simon Weckert maakt er een soort AI-camouflage van.
Voor het menselijk oog heeft het digitale AI camouflage shirt een abstract, kleurrijk patroon met groene, roze en oranje vormen. Voor robots verbergt het de persoon die het draagt.
De Duitse ontwerper Simon Weckert ontwierp het overhemd om AI- bewakingssystemen in de war te brengen, na de installatie van bewakingscamera’s in Berlijn eerder dit jaar. Het kledingstuk maakt deel uit van een opkomende trend in ‘adversarial clothing design’ , waarbij complexe patronen worden gebruikt om gezichts- en objectherkenning te verstoren.
“Objectdetectiesystemen ‘zien’ niet zoals wij dat doen,” vertelt Weckert aan Fast Company . “Ze scannen een afbeelding op statistische patronen: combinaties van randen, texturen en kleuren die ze hebben leren associëren met de categorie ‘persoon’.”
Het patroon was wiskundig geoptimaliseerd om de verkeerde signalen naar deze netwerken te sturen. Weckert zegt dat het shirt, dat voor ongeveer 88 dollar verkrijgbaar is , aan twee eisen moet voldoen: AI in de war brengen, maar ook nog steeds draagbaar zijn.
“De ruwe, vijandige patronen die uit de optimalisatie voortkomen, zijn effectief maar visueel chaotisch – puur machinegerichte beelden,” zegt hij. Het uiteindelijke patroon bevindt zich ergens tussen de behoeften van het algoritme en de menselijke smaak, en hij vindt die ambiguïteit conceptueel belangrijk.
“Het is een kledingstuk dat zich tegelijkertijd tot twee soorten kijkers richt, en elk ziet er iets totaal anders in,” voegt hij eraan toe.
Weckert testte het patroon tegen You Only Look Once (YOLO), een open-source detectiesysteem dat is gebouwd op dezelfde technologie als veel commerciële bewakingsproducten. Hij merkt echter op dat het kledingstuk niet per se ontworpen was om een specifiek bewakingssysteem te omzeilen, maar eerder om vragen op te roepen over hoeveel vertrouwen een technologie verdient als een simpel stukje stof die technologie onschadelijk kan maken.
“Ik doe geen uitspraken over specifieke gepatenteerde systemen,” zegt hij. Het doel van het shirt is niet om één specifiek product te ontmaskeren, maar om de structurele kwetsbaarheid van deze hele technologiecategorie aan te tonen.
