Subtlefakes: Licht gemanipuleerde AI-afbeeldingen die zonder toestemming zijn gemaakt, nemen de overhand op X.

Het is steeds moeilijker om AI-beelden te herkennen die zonder toestemming zijn gemaakt.

AI – Ik kan me nog goed herinneren wanneer ik voor het eerst een deepfake zag. Ik stond in 2017 op de trein te wachten op weg naar het kantoor van Vice toen ik een DM op Twitter kreeg van iemand die het op Reddit had gezien. Het was een korte .gif uit het begin van een pornofilmpje, waarop een vrouw op een bed lag en tegen de camera praatte, alleen was haar gezicht bewerkt zodat ze op Gal Gadot leek.

De deepfake was destijds schokkend realistisch, en zoals Sams latere reportages hierover hebben aangetoond, werden deepfakes vooral gebruikt om vrouwen te intimideren en te vernederen. We waren verrast door hoe geavanceerd de technologie destijds leek en wisten dat het internet en de wetgeving er niet op voorbereid waren.

De technologie is sindsdien exponentieel verder ontwikkeld, en het internet en de wetgeving hebben zich er nog steeds niet aan aangepast. Maar hoe verontrustend deepfakes ook waren op het moment dat we ze voor het eerst zagen, het probleem was nooit dat we dachten dat Gal Gadot daadwerkelijk een pornofilmpje had gemaakt. Deepfakes kunnen er overtuigend uitzien, maar ze hebben ons nooit wijsgemaakt dat wat we zagen echt was. 

Maar de afgelopen maanden heb ik op X gekeken naar een nieuw en vreemd type door AI gegenereerde, niet-consensuele afbeelding waarvan ik denk dat veel mensen erin zullen trappen. Deze afbeeldingen, die ik ‘subtlefakes’ ben gaan noemen, zijn niet zo duidelijk aanstootgevend, maar wel veel overtuigender.

De zorgwekkende implicatie is dat niet alleen de technologie zich ontwikkelt, maar ook de mensen die er misbruik van maken steeds geraffineerder worden. Net als ‘cheapfakes’, die Data & Society in 2019 beschreef als een bewerkt mediaproduct dat de waarheid manipuleert zonder AI of andere geavanceerde technologie, zijn subtlefakes een andere vorm van synthetische media die het internet heeft overgenomen sinds de opkomst van deepfakes in 2017.

Deze meer overtuigende beelden zijn geen door AI gegenereerde naaktfoto’s van beroemdheden of met gezichten verwisselde identiteiten in pornofilms, maar door AI gegenereerde beelden van beroemdheden die subtiel bewerkt zijn om ze onthullender of provocatiever te maken.

We hebben talloze artikelen geschreven over door AI gegenereerde media zonder toestemming van beroemdheden en niet-beroemdheden. Het is een vorm van intimidatie die psychische en materiële schade toebrengt aan mensen, en daarvoor hoeven ze niet geloofwaardig te zijn. Zelfs als het beeld fotorealistisch lijkt, is het vaak overduidelijk nep, simpelweg omdat het onwaarschijnlijk is dat de grootste acteur ter wereld plotseling hardcore pornografie zou produceren die door een willekeurig account op X wordt geplaatst. 

De afbeeldingen die ik de laatste tijd zie, zijn vaak maar licht bewerkt. Een voorbeeld hiervan is een bewerkte foto van een beroemde actrice op de rode loper, waarbij haar jurk onthullender wordt gemaakt of haar billen of borsten groter lijken. Een ander voorbeeld zijn volledig door AI gegenereerde selfies na een training in de sportschool. 

Het enige voorbeeld dat ik zonder enige schroom kan delen, is er een dat werd aangekaart en gedeeld door het slachtoffer van een van deze vervalsingen, actrice Xochitl Gomez. Zoals een vergelijking die ze op Instagram deelde laat zien , had iemand een echte foto van haar genomen op een parkeerplaats, waarop ze over haar schouder kijkt en naar de camera lacht.

Met behulp van AI werd het vervolgens zo gemanipuleerd dat het leek alsof ze in de ene afbeelding voorover boog en in de andere haar hand op haar billen legde. Op dezelfde manier had iemand een foto van haar op de rode loper genomen en met behulp van AI het zo gemanipuleerd dat het leek alsof ze haar rug naar de camera keerde en haar tong uitstak.

Deze afbeeldingen zijn niet alleen fotorealistisch, ze missen ook de gebruikelijke contextuele aanwijzingen die we gewend zijn van beelden die zonder toestemming zijn gemaakt. Ik denk dat ik er erg goed in ben om door AI gegenereerde afbeeldingen te herkennen, omdat het een belangrijk onderdeel is van ons werk hier, en ik denk niet dat ik zou kunnen zien dat deze door AI zijn gegenereerd als ik gewoon door Xochitl’s profiel zou scrollen. 

Deze afbeeldingen worden bijna altijd geplaatst door geverifieerde accounts op X die zich bezighouden met engagement farming. X betaalt de beheerders van deze accounts als hun berichten voldoende impressies genereren. X geeft er duidelijk niets om dat mensen dit doen, en nog veel meer dingen die net zo erg of zelfs erger zijn.

Ik heb minstens één account gezien dat een paar van deze subtiele deepfakes deelde, maar toen ik door hun postgeschiedenis scrolde, vond ik ook niet-consensuele, volledig naakte en seksuele afbeeldingen die ze via andere platforms te gelde maakten. Dat is dus nog een reden waarom X-accounts dit zouden kunnen doen. Er zijn heel veel van dit soort accounts en ze genereren miljoenen views.

Ik vind het interessant omdat het een nieuw en, voor zover ik weet, nog niet eerder beschreven gebruik is van AI-beelden zonder toestemming. Het is ook belangrijk en in het publieke belang dat dit gebeurt, omdat mensen moeten weten op wat voor AI-content ze worden gericht, vooral als dit ten koste gaat van anderen. Het is mogelijk ook een waarschuwingssignaal voor hoe het gebruik van AI door mensen evolueert van misbruikend maar overduidelijk nep, naar subtieler, minder aanstootgevend, maar veel moeilijker te detecteren. 

Een andere reden waarom dit soort afbeeldingen moeilijker te modereren zijn, is dat ze gemakkelijker te produceren zijn. Er zijn talloze diensten waarmee mensen eenvoudig met behulp van AI naaktfoto’s van iedereen kunnen genereren zonder toestemming, maar daar zijn bijna altijd wel wat obstakels aan verbonden. Mensen moeten naar een dubieuze website gaan, een dubieuze app installeren of een kleine vergoeding betalen.

Zoals we in het verleden al vaker hebben gemeld, kunnen de gemakkelijk toegankelijke AI-generatoren van techreuzen ook worden gemanipuleerd om afbeeldingen zonder toestemming te produceren , maar over het algemeen proberen de meeste bedrijven te voorkomen dat mensen dergelijke afbeeldingen met hun tools maken. Hoewel het niet onmogelijk is, vergt het wel enige inspanning om die beveiligingsmechanismen te omzeilen. 

Het is niet zo moeilijk om die beveiligingsmechanismen te omzeilen als de beelden die mensen zonder toestemming produceren geen naaktheid of seksuele handelingen bevatten, ervan uitgaande dat de AI-generator überhaupt is ontworpen om dat soort beelden te voorkomen. De meeste gangbare AI-generatietools proberen in ieder geval te voorkomen dat mensen naaktheid genereren. Minder tools proberen te voorkomen dat mensen een afbeelding van een echt persoon genereren.

Ik kan niet met zekerheid zeggen waar de meeste subtiele vervalsingen die ik heb gezien vandaan komen, maar ik weet dat er in ieder geval een aantal zijn gemaakt met X’s eigen Grok, omdat sommige afbeeldingen het Grok-watermerk bevatten. X is herhaaldelijk betrapt op het faciliteren van beelden zonder toestemming en heeft pas actie ondernomen na publieke verontwaardiging. 

X heeft niet gereageerd op een verzoek om commentaar.

“Grote socialemediaplatforms hebben het voor het eerst echt moeilijk met de gevolgen hiervan”, vertelde Hany Farid, expert in beeldforensica en medeoprichter van deepfake-detectiebedrijf GetReal. Je kunt mijn volledige interview met Farid hier bekijken . “Ze hebben altijd al problemen gehad, maar dit lijkt de eerste keer te zijn dat ze denken: ‘O jee, dit is echt erg.’ En ik denk dat dat komt doordat de hoeveelheid en de geavanceerdheid van de vervalsingen ongekend zijn.”

De voornaamste doelwitten van deepfakes waren en zijn nog steeds vrouwen, maar Farid zei dat andere kwaadaardige toepassingen van de technologie ook steeds moeilijker te bestrijden zijn.

“Als je tien jaar terugkijkt, was het nogal onhandig,” zei Farid. “Het wordt steeds geavanceerder. Ze evolueren. Cybercriminelen ontwikkelen zich en dat zal ieders werk in de loop der jaren veel, veel moeilijker maken.” 

Onze berichtgeving over deepfakes door de jaren heen heeft ons geleerd dat mensen ze maken omdat ze zich gerechtigd voelen tot vrouwenlichamen, omdat ze vrouwen opzettelijk willen kwetsen, of omdat het winstgevend is. Ik ben ervan overtuigd dat al die redenen ook van toepassing zijn op subtlefakes, maar het lijkt erop dat de huidige situatie bij X olie op het vuur gooit.

Mensen gebruiken subtlefakes als reclame voor accounts op andere platforms waar ze geld verdienen met beelden zonder toestemming, maar dat komt zelden voor. Het lijkt logischer om puur op interactie te verdienen via het advertentieprogramma van X, dat X-gebruikers betaalt voor interactie. Het is geen enorm bedrag, maar wel makkelijk geld. Omdat X geen interesse heeft in het modereren van deze content, kan één persoon ook meerdere accounts beheren en tientallen keren per dag berichten plaatsen. 

Over het algemeen bestaat mijn X-feed voornamelijk uit verschillende vormen van engagement farming. Een ander type subtiele misleiding dat ik vaak zie, vereist helemaal geen AI. Neem bijvoorbeeld dit bericht over OnlyFans-model Sophie Rain, waarin beweerd wordt dat Drake haar 2 miljoen dollar heeft betaald om haar maagdelijkheid af te nemen.

Het bericht bevat twee willekeurige afbeeldingen van Drake en een totaal irrelevante TMZ-video van Rain. Mensen klikken op de video om te zien of ze daadwerkelijk heeft gezegd wat er in het bericht staat, en het account krijgt engagement voordat ze beseffen dat het een leugen is. 

Dit soort simpele, domme, maar effectieve onzin is wat X beloont, en deze subtiele misleiding is slechts één zorgwekkend gevolg.