Een man maakte een deepfake-app om foto’s van vrouwen in naaktfoto’s te veranderen. Dat liep niet goed af.
indignatieai-redactie
6 min read
De snelle opkomst en nog snellere ondergang van een deepfake app die van elke vrouw een potentieel slachtoffer had kunnen maken.
Een anonieme programmeur had deze nieuwe deepfake app gemaakt genaamd DeepNude, die AI gebruikt om pornografie zonder toestemming te creëren. Als je de app een foto van een geklede vrouw geeft, verwijdert de app haar kleding zodat ze naakt lijkt. Het resultaat is behoorlijk realistisch, maar ronduit onethisch.
Deze deepfake app is was de nieuwste evolutie van AI-gestuurde deepfake-technologie, waarmee het angstaanjagend eenvoudig is om afbeeldingen te manipuleren zodat het lijkt alsof iemand iets heeft gezegd of gedaan wat hij of zij in werkelijkheid nooit heeft gezegd of gedaan. Zelfs als je nog nooit naakt voor een foto hebt geposeerd, kan iedereen die DeepNude downloadt het zo laten lijken alsof je dat wel hebt gedaan.
Het was dan ook fantastisch nieuws toen de programmeur, slechts enkele dagen na de lancering van de app, besloot deze donderdag offline te halen.
Nadat Motherboard als eerste berichtte over de “afschuwelijke” nieuwe app , volgden andere nieuwsmedia met kritische berichtgeving . In een uitstekend voorbeeld van hoe publieke controle onethische, door AI aangedreven technologie tot stilstand kan brengen, zei de ontwikkelaar vervolgens dat hij zich realiseerde dat “de kans dat mensen er misbruik van zullen maken te groot is”.
Absoluut. De kortstondige app was gratis, gebruiksvriendelijk en snel: het digitaal uitkleden duurde slechts 30 seconden.
Met andere woorden, het bevatte alle ingrediënten om het leven van een nietsvermoedende vrouw tot een hel te maken. Je hebt niet veel verbeeldingskracht nodig om te bedenken hoe het gebruikt zou kunnen worden voor wraakporno, die des te verwoestender is voor het leven van het slachtoffer vanwege het realistische uiterlijk van sommige naaktfoto’s. (Om ethische redenen zal ik in dit artikel geen voorbeelden van de foto’s opnemen.)
Hoewel het besluit van de programmeur om zijn product terug te trekken toe te juichen is, sloot hij de aankondiging af met een conclusie die op zijn best naïef en op zijn slechtst oneerlijk overkomt: “De wereld is nog niet klaar voor DeepNude.”
Hoe kon de wereld ooit klaar zijn voor een app waarvan het enige en expliciete doel is om gewone foto’s van vrouwen binnen enkele seconden in naaktfoto’s te veranderen? Of, anders gezegd, natuurlijk zouden mensen de app “misbruiken”. Er was geen andere manier om hem te gebruiken dan voor dat soort “misbruik”.
Houd er rekening mee dat de app alleen werkte op foto’s van vrouwen (als je hem probeerde te gebruiken op een foto van een man, voegde hij alleen vrouwelijke geslachtsdelen aan hem toe) — wat je meteen aan het twijfelen zou moeten brengen over de oorspronkelijke bedoelingen van de programmeur.
Deepfakes worden het vaakst besproken als een bedreiging in de politiek, vanwege hun potentieel om desinformatie en nepnieuws te verspreiden. Je hebt er misschien wel eens over gehoord in verband met de gemanipuleerde video van Huisvoorzitter Nancy Pelosi die in mei viraal ging, of de nepvideo van Facebook-CEO Mark Zuckerberg die deze maand de ronde deed. (In beide gevallen weigerde Facebook de video’s van zijn platform te verwijderen.) Het Congres houdt hoorzittingen over de technologie en afgevaardigde Yvette Clarke (D-NY) heeft een wetsvoorstel ingediend, bekend als de Deepfakes Accountability Act .
Minder vaak wordt gesproken over het unieke gevaar dat deepfake-technologie voor vrouwen vormt. Het is tijd dat we beseffen dat wanneer onze AI-systemen niet stroken met onze ethische waarden, vrouwen daar soms bijzonder kwetsbaar voor zijn.
In het deepfake-tijdperk is elke vrouw een potentieel slachtoffer.
Sinds het publiek een paar jaar geleden begon te experimenteren met deepfake-technologie, is deze gebruikt om vrouwen schade toe te brengen.
In 2017 begonnen er nep-pornovideo’s van beroemdheden op te duiken in de subreddit r/deepfakes. Mensen hadden video’s van echte pornoacteurs bewerkt door hun gezichten te vervangen door die van beroemdheden . In februari 2018 verbande Reddit de community vanwege het verspreiden van “onvrijwillige pornografie”.
Samantha Cole van Motherboard, die als eerste over de DeepNude-app berichtte , merkte op dat de app “het idee ontkracht dat deepfakes ooit ergens anders over gingen dan het claimen van eigendom over vrouwenlichamen.” Ze schreef:
In een e-mail aan Motherboard vertelde de anonieme maker van DeepNude, die de naam Alberto wilde gebruiken, dat de software gebaseerd is op pix2pix , een open-source algoritme dat in 2017 is ontwikkeld door onderzoekers van de Universiteit van Californië, Berkeley. Pix2pix maakt gebruik van generatieve adversariële netwerken (GAN’s), die werken door een algoritme te trainen op een enorme dataset met afbeeldingen – in het geval van DeepNude meer dan 10.000 naaktfoto’s van vrouwen, aldus de programmeur – en vervolgens te proberen zichzelf te verbeteren.
De programmeur, Alberto, zei dat het “plezier en enthousiasme” voor nieuwe technologieën hem ertoe hadden aangezet de app te ontwikkelen. “Ik ben geen voyeur, ik ben een technologieliefhebber”, zei hij. “Recentelijk, mede door eerdere mislukkingen (met andere startups) en economische problemen, vroeg ik me af of ik economisch rendement kon halen uit dit algoritme. Daarom heb ik DeepNude gemaakt.”
Vertaling: Hij besefte dat hij kon profiteren van vrouwenlichamen en de schending van hun seksuele privacy. Hoewel hij een basisversie van de app gratis aanbood, waren de naaktfoto’s die de app produceerde gedeeltelijk bedekt met een groot watermerk met de tekst “FAKE”. Voor $50 kon je echter een versie van de app krijgen waarbij alleen “FAKE” in de linkerbovenhoek stond, waardoor het heel gemakkelijk was om het watermerk weg te knippen.
Bovendien stond er donderdagmiddag om 13.00 uur nog steeds op de website van DeepNude: “Bent u geïnteresseerd in investeren in of het kopen van onze startup? We bekijken de aanbiedingen.”
Alberto vertelde Motherboard dat hij zich had afgevraagd of hij zijn app überhaupt wel had moeten maken. “Is dit wel goed? Kan het iemand schade berokkenen?”, peinsde hij. Maar hij wuifde zijn twijfels weg.
“Ik denk dat je met DeepNude net zo goed met Photoshop kunt doen wat je met een paar uur tutorial kunt,” zei hij. “Ik dacht ook bij mezelf: de technologie is er (voor iedereen toegankelijk). Dus als iemand slechte bedoelingen heeft, verandert DeepNude daar niet veel aan. … Als ik het niet doe, doet iemand anders het over een jaar wel.”
Dit is een argument dat ik vaak hoor aanvoeren in verband met nieuwe technologieën. Sommige mensen die aan geavanceerde AI-systemen werken, vertellen me dat er altijd kwaadwillenden zullen zijn; als zij deze systemen niet ontwikkelen, zullen de kwaadwillenden dat wel doen. Soms beweren ze dat het beter is dat mensen met goede bedoelingen de nieuwe AI’s lanceren, terwijl ze hun proces volledig transparant maken en waarschuwen voor de ethische risico’s die eraan verbonden zijn.
Maar het uitbrengen van nieuwe AI’s die niet stroken met ethische waarden draagt onvermijdelijk bij aan het veranderen van de normen binnen de AI-gemeenschap. Als iemand een app zoals DeepNude uitbrengt, opent diegene de deur voor anderen, die het daardoor wellicht makkelijker zullen vinden om de markt te betreden.
Naarmate de dreiging van deepfakes duidelijker wordt, beginnen politici , wetgevers , AI-experts en zelfs CEO’s zoals Zuckerberg te beseffen dat we een strengere aanpak nodig hebben. Het zal waarschijnlijk nog wel even duren voordat er nieuwe wetgeving komt. In de tussentijd is het een feit dat iedereen zich bewust moet zijn van de dreiging van deepfake-technologie. Met gratis apps zoals DeepNude die op de markt komen, lopen we allemaal het risico het volgende slachtoffer te worden.
Het goede nieuws is dat, zoals de DeepNude-affaire aantoonde, journalistieke kritiek en publieke verontwaardiging soms het tij kunnen keren.
