Nieuwe EU-wetgeving maakt AI-contentlabels verplicht, maar zou het juist moeilijker kunnen maken om deepfakes te herkennen.

Een set pictogrammen

Artikel 50 van de EU-verordening inzake kunstmatige intelligentie is op 2 augustus in werking getreden. Het introduceert diverse transparantieverplichtingen voor bedrijven die AI-systemen of -content leveren of anderszins inzetten.

Onder deze verplichtingen valt onder meer de verplichting om door AI gegenereerde of gemanipuleerde beelden, audio of video’s die lijken op bestaande personen, objecten, plaatsen, entiteiten of gebeurtenissen, als zodanig te vermelden.

Ook door AI gegenereerde of gemanipuleerde teksten over onderwerpen van algemeen belang, die niet aan menselijke beoordeling of redactionele controle zijn onderworpen, moeten openbaar worden gemaakt.

De EU heeft een reeks pictogrammen ontwikkeld waarmee authentiek ogende AI-content moet worden gelabeld.

Bij audio-deepfakes moet aan het begin van de inhoud een korte, hoorbare disclaimer worden geplaatst.

Pictogrammen moeten duidelijk zichtbaar zijn wanneer gebruikers de inhoud voor het eerst tegenkomen. Ze moeten ook zo geplaatst worden dat ze geen overlays hinderen en in de inhoud zelf ingebed zijn, zodat ze zichtbaar blijven bij het delen of downloaden. Het gebruik van deze EU-pictogrammen is optioneel, maar het openbaar maken van dergelijke inhoud conform de wetgeving blijft verplicht voor bedrijven.

Interessant genoeg is voor duidelijk artistieke, creatieve, satirische of fictieve AI-gegenereerde content openbaarmaking alleen vereist op een manier die het publiek informeert zonder de presentatie of het kijkplezier van het werk te verstoren.

De nieuwe transparantieverplichtingen van de EU vereisen ook dat AI-bedrijven onzichtbare, machineleesbare watermerken toevoegen aan alle content die met hun systemen wordt gegenereerd of zelfs verwerkt. Om aan de wet te voldoen, heeft het toonaangevende AI-laboratorium Anthropic aangegeven dat het ervoor zal zorgen dat alle Claude-chatbotmodellen die na 2 augustus in de EU worden gelanceerd, machineleesbare markeringen ondersteunen. Het bedrijf werkt er ook aan om watermerken toe te voegen aan eerdere Claude-modellen.

De wet is ook van toepassing op bedrijven buiten de EU die AI-gegenereerde content creëren die zichtbaar is voor bedrijven binnen de EU. Bedrijven die zich niet aan de wet houden, kunnen boetes krijgen tot €15 miljoen (A$24,5 miljoen) of tot 3% van hun totale wereldwijde jaaromzet.

De wet is echter niet van toepassing op individuen wanneer zij content creëren in een persoonlijke of niet-professionele hoedanigheid. De wet kent daarom beperkingen bij het afdwingen van de openbaarmaking van bepaalde door AI gegenereerde content.

Etiketten kunnen onbedoelde gevolgen hebben.

Zelfs wanneer labels op de juiste manier worden toegepast, moeten we begrijpen hoe mensen erop zullen reageren.

AI-labels zijn ontworpen om ons te helpen synthetische content te identificeren. Maar ze kunnen een onbedoeld ‘ boemerangeffect ‘ hebben. Dit is wanneer een interventie het tegenovergestelde effect teweegbrengt van wat de bedoeling was.

Als we eraan gewend raken om door AI gegenereerde content met een label te zien, kunnen we gaan aannemen dat content zonder label wel echt moet zijn. Dit is problematisch, omdat kwaadwillenden die opzettelijk misleidende content creëren, het gebruik van AI waarschijnlijk niet zullen onthullen.

Overheidsinspanningen om burgers te beschermen door middel van openbaarmaking kunnen er op hun beurt toe leiden dat digitale content minder kritisch wordt beoordeeld. Het vertrouwen op labels kan burgers daardoor steeds vatbaarder maken voor onbekend en kwaadwillig gebruik van AI.

Ons onderzoek heeft aangetoond dat transparantie complexer is dan simpelweg een label als “door AI gegenereerd” toevoegen.

De aanwezigheid en het moment waarop informatie over AI wordt gedeeld, kunnen van invloed zijn op hoe mensen op de inhoud reageren. Dit betekent dat de effectiviteit van de informatie niet alleen afhangt van de aanwezigheid van een label, maar ook van hoe mensen het interpreteren en gebruiken.

Belangrijk is dat labels slechts één van de vele signalen zijn die mensen gebruiken bij de beslissing of ze online content kunnen vertrouwen. Ons onderzoek heeft ook aangetoond dat wanneer content viraal gaat of vergezeld gaat van reacties die de boodschap versterken, mensen vatbaarder kunnen worden voor desinformatie.

Deze sociale signalen kunnen concurreren met, of zelfs de informatie overschrijven die aangeeft of content authentiek of door AI gegenereerd is.

Geletterdheid, niet alleen etiketten.

Mensen kunnen niet uitsluitend op labels vertrouwen om AI-gegenereerde content te herkennen. Ze moeten ook alert zijn op signalen van AI, zoals inconsistenties in gezichtsbewegingen, uitdrukkingen, spraak of stem.

Naarmate AI geavanceerder wordt, worden deze aanwijzingen echter steeds moeilijker te herkennen. Daarom moet er ook rekening worden gehouden met wie de inhoud heeft gemaakt of gedeeld, of de bron betrouwbaar is, of de inhoud logisch is en of deze elders kan worden geverifieerd.

Het is van essentieel belang om op deze manier AI-geletterdheid te bevorderen.

AI-labels kunnen helpen. Maar ze mogen geen vervanging zijn voor een kritische beoordeling van online content. Naarmate de grens tussen synthetische en authentieke content steeds vager wordt, moeten overheden en technologiebedrijven meer doen om initiatieven ter bevordering van AI-geletterdheid te ondersteunen, zodat mensen weloverwogen oordelen kunnen vellen over wat ze online zien.