indignatieai-redactie 
Sommige fans maken met behulp van AI gegenereerde, geseksualiseerde afbeeldingen en video’s van idolen, maar de rest van de fandom komt in opstand tegen dit gedrag.
K-popfans staan erom bekend dat ze een machtige groep vormen op internet, waarbij sommige fans een felle loyaliteit en passie koesteren voor specifieke artiesten. Op sociale media gebruiken sommige obsessieve fans generatieve AI om wat in feite zelf-insert fanfictie is te creëren: griezelige video’s en afbeeldingen van zichzelf die hun favoriete idolen kussen, knuffelen en allerlei andere vormen van intimiteit met hen uiten.
Het resultaat is een hedendaagse, door technologie aangedreven mutatie van de idoolcultuur die fanart naar nieuwe extremen tilt, en veel mensen in K-popfancommunities zijn daar begrijpelijkerwijs behoorlijk boos over.
Gebruikers op Reddit en diverse K-popforums hebben hun verontwaardiging geuit over deze deepfake-fantasieën en roepen andere fans op om degenen te rapporteren die AI-tools gebruiken om zonder toestemming video’s van hun K-popidolen te genereren. In een thread op de subreddit K-pop Uncensored plaatste een gebruiker bewerkte screenshots van een door een andere fan gegenereerde video, waarop te zien is hoe deze fan wordt geknuffeld en gekust op de wang door Keonho van de boyband CORTIS, die minderjarig is.
“Sommige fans denken misschien dat het onschadelijk is, maar als je dit tolereert, open je de deur naar veel ergere dingen in de toekomst”, schreef Reddit-gebruiker wbu_lizzie in de thread. “De idolen hebben hier geen toestemming voor gegeven, het zijn echte mensen die hun leven leiden, geen personages van Wattpad/AO3.”
“Mensen knippen en plakken dit soort dingen al eeuwen, maar hoe realistischer de afbeeldingen worden, hoe riskanter het psychologisch wordt”, schreef gebruiker Goldie_Prawn in een andere discussie op K-pop Uncensored over het gebruik van AI. “Ik denk dat zelfs met traditioneel Photoshop de benodigde inspanning en vaardigheid de maker een zekere mentale buffer geeft die er bij AI niet is.”
Dr. Sarah Keith, hoogleraar aan de MacQuarie University in Australië en expert in K-popfandom, stelt dat de AI-deepfakevideo’s voortkomen uit een lange traditie van door fans gecreëerde content die veel verder reikt dan de wereld van K-pop. Fanfictie en -kunst zijn altijd een essentieel onderdeel van de fancultuur geweest, en hoewel deze creaties vaak de grenzen van het auteursrecht opzoeken, worden ze over het algemeen niet als griezelig of exploitatief beschouwd.
Maar met de komst van generatieve AI-tools die snel realistische afbeeldingen en video’s van echte mensen kunnen creëren, heeft Silicon Valley een technische manier gevonden om de wet en de maatschappelijke normen rondom toestemming te omzeilen.
“K-popfans (net als alle popcultuurfans) produceren al lange tijd actief fanmateriaal over hun favoriete idolen. Tot nu toe zijn deze echter niet ‘overtuigend’ gebleken als artefacten die daadwerkelijk de idolen zelf zouden kunnen bevatten”, vertelde Keith aan 404 Media. “Het is een parallel probleem tussen fans en AI-tools.
Door deze twee factoren is het voor fans nu veel gemakkelijker geworden om grote hoeveelheden content te creëren die de persoonlijke integriteit van de idolen niet respecteert en die online kan worden verspreid op manieren die de reputatie van de idolen ondermijnen (bijvoorbeeld geseksualiseerde deepfakes).”
Hoewel veel fans zich uitspraken tegen dit griezelige gedrag, wezen anderen met de vinger naar het bedrijfsmodel van de K-popindustrie, dat parasociale fanbases aanmoedigt en tegelijkertijd veel artiesten en fans uitbuit.
“Dit is een trieste bijwerking van een industrie die al jarenlang parasociale relaties opdringt aan haar fans,” schreef Serious-Wish4868 in een thread op r/kpopthoughts over de door AI aangedreven seksualisering van idolen. “Als idolen en bedrijven je constant pushen om je romantische en seksuele fantasieën met idolen uit te leven in alles wat ze doen, van berichten op sociale media tot live interacties, wat verwacht je dan nog?”
Maar sommige entertainmentbureaus die K-popartiesten managen – en de artiesten zelf – hebben ook hun ongenoegen geuit over de situatie. Leden van enorm populaire K-popgroepen zoals BTS en Tomorrow X Together hebben zich uitgesproken tegen het gebruik van generatieve AI om digitale simulacra te creëren op basis van de beeltenissen van artiesten.
In maart waarschuwde OA Entertainment, een label opgericht door en vertegenwoordiger van Blackpink-lid Jennie, in een persverklaring dat het “krachtige juridische stappen zou ondernemen, waaronder civiele en strafrechtelijke procedures, tegen elke handeling die inbreuk maakt op de reputatie, rechten, portretrechten en andere intellectuele eigendomsrechten van de artiest.” De verklaring kwam naar aanleiding van incidenten met intimidatie en stalking waarbij de artiesten betrokken waren, en impliceerde sterk het probleem van door AI gegenereerde content zonder het expliciet te benoemen.
Tegelijkertijd omarmen veel van deze talentenbureaus voor idolen de generatieve AI-tools als middel om de kosten in de hele branche te drukken. SM Entertainment , een van de grootste labels in Korea dat grote namen als Girls Generation en Super Junior vertegenwoordigt, heeft de integratie van generatieve AI omschreven als een kernonderdeel van hun bedrijfsstrategie en bracht vorig jaar een volledig door AI gegenereerde muziekvideo uit voor de meidengroep Aespa.
En afgelopen december zag de K-popwereld de lancering van een volledig synthetische idoolgroep genaamd GLXE (uitgesproken als “galaxy”), die door AI gegenereerde liedjes combineert met opvallende AI-avatars.
“Ze zouden de hele industrie automatiseren als ze er geld mee konden verdienen,” vertelde Lindsey Knuth, K-popfan en redacteur bij Tangle News , aan 404 Media. “Pornografische deepfakes van minderjarige idolen zijn een probleem, net als de (gebrekkige) reactie van de industrie, wat mij betreft.”
De culturele tolerantie voor door fans gemaakte AI-rommel verschilt per regio en context. Zuid-Korea staat momenteel bovenaan de lijst wat betreft de consumptie van AI-rommelcontent , omdat de techindustrie van het land de adoptie en culturele acceptatie van de technologie stimuleert. In de VS laten peilingen echter consequent zien dat de meerderheid van de jongeren een zeer negatieve mening heeft over AI-tools en door AI gegenereerde content – en steeds meer anti-AI wordt naarmate werkgevers, scholen en instellingen hen onder druk zetten of dwingen om het te gebruiken.
Keith merkt op dat platenlabels en talentenbureaus weliswaar altijd erg actief zijn geweest in het beschermen van artiesten en hun reputatie, maar dat ze dit alleen doen vanuit het oogpunt van het beschermen van een investering. Fans daarentegen zijn over het algemeen meer emotioneel betrokken en zullen hun idolen eerder verdedigen als menselijke wezens, zowel tegen opdringerige fans als tegen de bedrijven zelf.
Net als bij AI en technologie in het algemeen, heeft het gebrek aan technische of wettelijke waarborgen tegen de vele , goed gedocumenteerde schadelijke gevolgen van de technologie ervoor gezorgd dat sociale schaamte een van de weinige effectieve afschrikmiddelen is tegen misbruik in de K-popwereld.
“Het is geruststellend dat veel fans openlijk het niet-consensuele gebruik van AI en deepfakes aan de kaak stellen, want bij gebrek aan technische waarborgen voor dit soort content is maatschappelijke acceptatie het allerbelangrijkste”, aldus Keith. “Het is dus zeker geruststellend dat veel actieve fans online een cultuur van respect creëren waarin de beeltenissen van idolen niet op niet-consensuele wijze worden gebruikt.”
