Ik heb de Spotify-account van een echte artiest gekaapt met AI-muziek. Het was verontrustend makkelijk.

Een flagrante maas in de wet bij de digitale muziekdistributie maakt het wel heel gemakkelijk om met door AI gegenereerde muziek mee te liften op het talent van echte artiesten.

AI – Op 10 september bracht de in Brooklyn gevestigde punkband Lathe of Heaven een nieuwe single uit op hun geverifieerde Spotify-pagina, getiteld Riding High. Iedere fan van Lathe of Heaven zou meteen hebben opgemerkt dat het nummer totaal anders klonk dan het eerdere werk van de band, dat de zang niet van leadzanger Gage Allison was en dat de albumhoes sterk afweek van de stijl en het logo dat de band eerder gebruikte. 

Dat komt omdat Lathe of Heaven Riding High niet zelf heeft geschreven, uitgevoerd of uitgebracht. Ik heb het nummer gemaakt met een simpele opdracht aan de AI-muziekgenerator Udio, en ik kon het nummer vervolgens uitbrengen op de officiële Spotify-pagina van Lathe of Heaven, evenals op hun pagina’s voor Apple Music, Tidal en Amazon Music, zonder medeweten van de band. Dit deed ik door gebruik te maken van een overduidelijke maas in de wet met betrekking tot de digitale distributie van muziek naar streamingplatforms. 

De maas in de wet bestaat al jaren, maar mensen die AI-muziek maken, misbruiken deze nu op grote schaal. Tegenwoordig kan iedereen gemakkelijk de Spotify-pagina van een echte artiest kapen en deze overspoelen met door AI gegenereerde muziek. Wanneer iemand op een van die nummers klikt in de verwachting muziek van zijn of haar favoriete artiest te horen, incasseert de oplichter de royalty’s die die streams genereren, in feite meeliftend op de populariteit van de artiest, en de luisteraar hoort in plaats van zijn of haar favoriete artiest muziek van lage kwaliteit.

Verschillende gevallen van deze oplichting zijn in het verleden gedocumenteerd, maar 404 Media is erin geslaagd de exacte maas in de wet die oplichters misbruiken te identificeren en na te bootsen. Het was een triviale klus en noch muziekstreamingplatforms, noch digitale muziekdistributeurs nemen de verantwoordelijkheid voor het probleem. 

Het lijkt er ook op dat de maas in de wet eerder werkt tegen minder bekende artiesten of artiesten die niet meer leven, dan tegen beroemde muzikanten, hoewel ook zij erdoor getroffen kunnen worden. Spotify vertelde me dat “profielen die niet actief beheerd worden, bijzonder kwetsbaar kunnen zijn”, wat betekent dat als iemand de pagina van een artiest op Spotify niet actief in de gaten houdt, deze een makkelijker doelwit is. 

Vorig jaar berichtte ik over Blaze Foley , een countrymuzikant die in 1989 werd vermoord, maar wiens Spotify-pagina plotseling nieuwe, door AI gegenereerde muziek onder zijn naam toonde. Ik heb onlangs tientallen voorbeelden bekeken van andere overleden muzikanten die blijkbaar ook door AI gegenereerde muziek onder hun naam op Spotify publiceren. In sommige gevallen tonen albumhoezen van overleden, zwarte jazzmuzikanten in plaats daarvan witte, door AI gegenereerde artiesten . 

Het achterdeurtje

Digitale muziekdistributeurs zijn diensten die muzikanten helpen hun muziek online te verspreiden en te beheren. In plaats van hun muziek afzonderlijk naar elke muziekstreamingdienst te uploaden, uploaden artiesten hun muziek naar één digitale muziekdistributeur, die hun muziek vervolgens uploadt naar de platforms van hun keuze.

Op deze manier kunnen artiesten hun catalogus beheren en hun inkomsten innen via één gecentraliseerde dienst, in plaats van hun muziek afzonderlijk te beheren op Spotify, Amazon Music, Apple Music, Tidal en andere platforms.

De consolidatie die digitale muziekdistributeurs bieden is ongelooflijk handig, maar kan ook gemakkelijk worden misbruikt door kwaadwillenden. 

Om hiervan te profiteren, maakte ik een nummer op Udio met de prompt “genereer een punknummer met mannelijke vocalist” en ontwierp ik de albumhoes met ChatGPT. Ik maakte een account aan bij een van deze digitale muziekdistributeurs, Distrokid, voor $ 3,75 per maand en uploadde het nummer. Toen Distrokid naar mijn artiesten-/bandnaam vroeg, typte ik Lathe of Heaven in.

Distrokid vond automatisch de bestaande Spotify-, Tidal-, Apple Music- en Amazon-pagina’s van de echte Lathe of Heaven en vroeg of dat mijn band was. Vervolgens vroeg het me om een ​​heleboel informatie die de muziekstreamingplatforms vereisen, zoals wie de muziek componeerde, wie de productie deed en het platenlabel. Ik vulde overal mijn echte naam in en gaf 404 Records op als platenlabel. 

Distrokid liet me ook een paar vakjes aanvinken. Eén daarvan luidde: “Ik heb deze muziek opgenomen en ben gemachtigd om deze wereldwijd in winkels te verkopen en alle royalty’s te innen.” Een ander vakje luidde: “Ik gebruik de naam van geen enkele andere artiest in mijn naam, songtitels of albumtitel zonder hun toestemming.” Ik vinkte de vakjes aan. Noch Distrokid, noch de muziekstreamingplatforms hebben mijn antwoorden gecontroleerd. 

Toen ik het formulier had ingevuld, liet Distrokid me weten dat ze bezig waren het nummer op 24 verschillende muziekstreamingplatforms te publiceren. 

Een dag later verschenen mijn door AI gegenereerde nummer en albumhoes op de officiële Spotify-, Amazon Music-, Apple Music-, Tidal- en Deezer-pagina’s van Lathe of Heaven. Een gewone gebruiker zou onmogelijk kunnen weten dat de band het nummer niet zelf had geüpload en dat alle royalty’s die ermee verdiend zouden worden naar mij zouden gaan.

“Ik heb net naar het nummer geluisterd. Het is afschuwelijk. Dat je zoiets hebt kunnen doen, is waanzinnig”, vertelde Allison, de zangeres van Lathe of Heaven, me. “Uiteindelijk is het enige wat kleinere muzikanten zoals wij nog hebben, erkenning voor het resultaat van ons werk. Genieten van het creatieproces en het de wereld in sturen, wetende dat het onmiskenbaar ons eigen werk is, is eigenlijk een van de laatste drijfveren achter het maken van muziek.

Het is al moeilijk genoeg om zoveel tijd en energie in de band te steken. Alle leden van LoH stemmen hun levensstijl af op het hebben van tijd om te touren, platen te schrijven en op te nemen. En we doen het in de wetenschap dat we er waarschijnlijk niet veel geld mee zullen verdienen. Dat iemand onze reputatie kan ruïneren door deze tenenkrommende troep onder onze naam uit te brengen, is ontzettend ontmoedigend en zegt veel over distributie- en streamingdiensten die dit laten gebeuren.”

“100.000 nieuwe nummers per dag”

Deze methode voor digitale muziekdistributie wordt op grote schaal misbruikt. In juli ontdekte het muzikale duo Odette Child door AI gegenereerde muziek op streamingplatforms die zogenaamd van echte artiesten afkomstig was. Ze deelden hun bevindingen vervolgens op Instagram. Tot nu toe hebben ze meer dan 300 door AI gegenereerde nummers gevonden die zogenaamd geschreven zijn door uiteenlopende artiesten, van Taylor Swift tot relatief onbekende Broadway-musicalartiesten, overleden jazzmusici en zelfs beroemdheden die geen muzikant zijn, maar wiens naam en beeltenis worden gebruikt voor deze door AI gegenereerde nummers. 

Odette Child vertelde me dat ze de lijst met door AI gegenereerde nummers die ze hadden samengesteld naar Spotify hadden doorgestuurd, en dat Spotify hen bedankte, maar verder geen actie ondernam tegen de AI-rommel.

“Dit zijn geen nieuwe mazen in de wet. Dit zijn geen nieuwe dingen die worden uitgebuit”, vertelde Odette Child me. “Wij zijn muzikanten. We willen onze muziek digitaal uitbrengen. In veel opzichten is dit enorm verontrustend, beangstigend en bedreigend voor ons bestaan. En toch zien we heel duidelijk dat ze niet geïnteresseerd zijn in de best mogelijke oplossing voor dit probleem. We hebben een soort infrastructuur nodig die ons hiertegen beschermt, als consumenten, luisteraars en vooral als artiesten.” 

AI-muziek is zo wijdverbreid op muziekstreamingplatforms zoals Spotify dat er nu verschillende diensten van derden zijn die gebruikers helpen AI-gegenereerde muziek eruit te filteren . In augustus kondigde Spotify aan een nieuwe tag te introduceren om AI-artiesten op het platform te identificeren, maar het platform staat nog steeds vol met niet-geïdentificeerde AI-muziek, waarvan sommige zich voordoen als afkomstig van menselijke artiesten.

Zelfs platforms die een sterker standpunt innemen over het labelen van AI-muziek en het beschermen van menselijke artiesten, zoals Deezer en QoBuz , trappen in deze valkuil. Op QoBuz wordt zelfs AI-muziek van Taylor Swift, een van de beroemdste muzikanten ter wereld, misleidend onder haar naam gepubliceerd. 

“Het beschermen van de identiteit van artiesten is voor ons een topprioriteit en we blijven fors investeren in detectie en preventie”, vertelde Spotify me. “We hanteren een gelaagde aanpak die handhaving, controle door artiesten en meer transparantie combineert. Met Artist Profile Protection , de eerste tool in zijn soort van een streamingdienst, kunnen artiesten ervoor kiezen om binnenkomende releases te beoordelen en goed te keuren of af te wijzen voordat ze op hun profiel verschijnen.

We werken ook rechtstreeks samen met distributeurs om slechte inzendingen bij de bron tegen te houden, en ons spamfilter signaleert en blokkeert het aanbevelen van massale uploads, duplicaten en andere content van lage kwaliteit. Naarmate AI-technologie zich verder ontwikkelt, zullen we deze inspanningen blijven uitbreiden.”

In augustus vertelde Spotify me dat er in de discussie over door AI gegenereerde muziek op streamingplatforms vaak iets over het hoofd wordt gezien: “Betrouwbare detectie van door AI gegenereerde muziek blijft een technisch onopgelost probleem in de hele industrie.” Dit betekent dat Spotify en andere streamingdiensten niet zomaar AI kunnen gebruiken om door AI gegenereerde muziek te detecteren en te labelen.

“Detectiemodellen slagen er vaak niet in om te generaliseren over verschillende versies van generatieve AI, lopen gemakkelijk vast bij eenvoudige audiobewerking en kunnen bijna van de ene op de andere dag verouderd raken wanneer AI-bedrijven hun modellen updaten. Het gevolg in de praktijk zijn valse positieven die echte artiesten schade berokkenen,” aldus Spotify. 

In juli meldde de Oekraïense muzikante Andriana-Yaroslava Saienko bijvoorbeeld op Instagram dat TuneCore, een ander digitaal muziekdistributiebedrijf zoals Distrokid, had aangegeven een van haar nummers niet te willen distribueren omdat het als door AI gegenereerd zou zijn herkend. Saienko zei dat ze de muziek volledig zelf had gecreëerd, met alleen haar stem en een paar ingebouwde instrumenten in de populaire muziekproductiesoftware Ableton. Het nummer, getiteld ‘Praying’ , is te beluisteren op haar Soundcloud-pagina. 

“Ik sta volledig achter het filteren van door AI gegenereerde muziek. Ik vind dat heel terecht,” schreef Saienko me in een e-mail. “Maar mijn zaak ging over iets anders: het gebrek aan menselijke communicatie en een zinvolle manier om een ​​situatie op te lossen waarin het AI-detectiesysteem duidelijk een fout had gemaakt.” 

Amazon liet me weten dat, net als bij alle content op Amazon Music, het verwacht dat uploads voldoen aan de toepasselijke wetgeving en de bestaande servicevoorwaarden. “Onze robuuste systemen voorkomen identiteitsfraude, bedrog en spam, en hebben alleen al in het afgelopen jaar geleid tot de verwijdering van tientallen miljoenen nummers van onze dienst, waaronder frauduleuze, door AI gegenereerde content”, schreef Amazon me in een e-mail.

“We zetten ons in om onze handhaving continu te verbeteren door middel van geavanceerde detectietechnologieën en verfijnde monitoringsystemen, en we zijn regelmatig in gesprek met partners en rechthebbenden om ervoor te zorgen dat we de belangen van artiesten en songwriters beschermen naarmate het landschap verandert.”

Deezer vertelde me dat het vanuit het perspectief van een streamingplatform vaak moeilijk is om te bepalen of een release legitiem is of niet, omdat artiesten vaak van label of distributeur wisselen en er geen centrale database is van wat “legitieme” releases zijn. Bovendien hebben streamingplatforms vaak te maken met artiesten die dezelfde naam gebruiken, in gevallen waarin IPI-codes, de unieke identificatienummers die worden gebruikt om muziekrechten te traceren en royalty’s te betalen, niet in de release-metadata worden vermeld.

“Het bijhouden ervan is een complexe taak, aangezien we vaak meer dan 100.000 nieuwe nummers per dag ontvangen en onze beoordelingen handmatig worden uitgevoerd, zowel door het dagelijkse werk van onze redactie- en catalogusteams als door meldingen van rechthebbenden en gebruikers”, vertelde Deezer me.

“Hoewel dit probleem al bestond vóór de opkomst van AI, zien we een toename in pogingen om artiestenpagina’s te ‘kapen’ via door AI gegenereerde nepalbums. Het doel van de fraudeurs is om platforms te misleiden en deze nieuwe releases te promoten bij gebruikers die normaal gesproken naar de originele artiest zouden luisteren.”

Distrokid, de distributeur die ik gebruikte om de pagina’s van Lathe of Heaven te kapen, heeft niet gereageerd op een verzoek om commentaar.