AI: EU-lidstaten plannen “digitale onteigening” van Europeanen ten behoeve van AI-bedrijven

In een uitgelekt document stelt het Ierse voorzitterschap aan de EU-lidstaten voor dat het winstbelang van AI-bedrijven voorrang moet krijgen boven de fundamentele rechten van Europeanen.

Artikel 88c, voorgesteld door de Europese Commissie (nu artikel 88bis in het document van de Raad), beoogt het gebruik van persoonsgegevens voor AI te liberaliseren. Het voorstel ligt momenteel bij de Raad, waar het Ierse voorzitterschap de leiding heeft. Ierland fungeert als EU-hoofdkantoor voor de meeste AI-bedrijven uit de VS en China. 

Met steun van Duitsland en andere EU-grootmachten wordt momenteel voorgesteld dat bedrijven, wanneer ze persoonsgegevens gebruiken “in de context van AI”, in principe alles mogen doen. De commerciële belangen van AI-bedrijven zouden in principe voorrang moeten hebben boven de fundamentele rechten van gebruikers. Deze algemene vrijstelling zou ook gelden voor personen die nooit klant zijn geweest van een AI-bedrijf, of voor gegevens die tientallen jaren geleden zijn ingevoerd, bijvoorbeeld in chats of op sociale media.

Alle persoonsgegevens die een AI-bedrijf op de een of andere manier in handen kan krijgen, zouden onder deze bepaling vallen. Het is niet nodig om gebruikers om toestemming te vragen – bedrijven worden automatisch geacht een doorslaggevend “legitiem belang” te hebben als ze een AI-product trainen of gebruiken.

Schrems: “ Een waarschijnlijke meerderheid van de EU-lidstaten zegt nu dat de belangen van Elon Musk, Marc Zuckerberg, Google of OpenAI, namelijk het behalen van enorme winsten, voorrang moeten krijgen boven het fundamentele recht van Europeanen op gegevensbescherming. Dit is niets minder dan de ‘digitale onteigening’ van Europeanen. Alles wat we ooit in digitale systemen hebben ingevoerd, of wat AI-bedrijven op een andere manier hebben verkregen, wordt nu vrij spel voor AI-bedrijven om te gebruiken.”

De verkoop van Europese data aan de VS en China. Politici lijken te geloven dat de Europese economie zal profiteren van de afschaffing van zoveel mogelijk wetten. Het tegenovergestelde is echter te verwachten: de meeste EU-bedrijven hebben noch toegang tot dezelfde hoeveelheid data, noch het kapitaal om te concurreren met Amerikaanse bedrijven. In veel gevallen zou dit er ook toe kunnen leiden dat de data die door EU-bedrijven worden verzameld (maar verwerkt op platforms of diensten in de VS) terechtkomen bij aanbieders in de VS of China.

Schrems: “Deze wetswijziging komt vooral de grote spelers ten goede, degenen die enorme hoeveelheden Europese data hebben verzameld. Dit is een complete uitverkoop van Europese data aan wereldwijde bedrijven. Het zou er ook toe leiden dat een grote hoeveelheid knowhow van EU-bedrijven naar de VS of China stroomt. Vanuit het oogpunt van industriebeleid is zo’n aanpak waanzinnig.”

Een blanco cheque voor een complete technologie?  Normaal gesproken staat de AVG verwerking toe voor specifieke doeleinden (bijvoorbeeld bewaren voor belastingdoeleinden of fraudepreventie). Het huidige voorstel voor artikel 88c (of artikel 88bis) legitimeert echter een complete technologie. Ongeacht het doel waarvoor het wordt gebruikt, zou elk AI-systeem standaard rechtmatig persoonsgegevens verzamelen.

Het voorgestelde artikel zou bijvoorbeeld ook het trainen en gebruiken van AI voor manipulatie, desinformatie, het genereren van naaktfoto’s, of moorddrones en eigenlijk elk ander twijfelachtig doel toestaan. Veel verwerkingshandelingen die tot nu toe illegaal waren, zouden plotseling legaal worden – simpelweg omdat ze “in de context” van een AI-systeem plaatsvinden.

Zo is gegevensverwerking voor gepersonaliseerde reclamedoeleinden (zonder toestemming) momenteel illegaal in de EU. Maar als reclame gepersonaliseerd wordt met behulp van AI-technologie, zou dat ineens legaal worden.

Schrems: “Het is alsof je zegt dat alles mag – wat je ook doet – zolang het maar met een specifieke technologie gebeurt. Veel dingen die voorheen illegaal waren, zouden ineens legaal zijn, zolang je maar AI gebruikt. Het is volstrekt absurd om een ​​technologie met een hoog risico voorrang te geven boven elk ander computersysteem.” 

De 45 jaar oude belofte van gegevensbescherming stort in elkaar. Op Europees niveau bestaat er al sinds 1981 wetgeving inzake gegevensbescherming. Decennialang werd Europeanen beloofd dat dergelijke (vermeende) “strikte” gegevensbescherming ervoor zou zorgen dat platforms zoals Twitter/X, Facebook of Instagram, en bedrijven zoals Google of Microsoft, die enorme hoeveelheden data verzamelen, deze “nooit” voor andere doeleinden zouden gebruiken dan waarvoor ze werden gedeeld.

Het voorgestelde artikel 88c (of nu 88bis) breekt deze belofte: alle verzamelde data is plotseling voor iedereen beschikbaar, voor elk willekeurig gebruik, door elk AI-systeem.

Schrems: ” Sinds de jaren tachtig hebben we mensen beloofd dat grote bedrijven weliswaar de data mogen bewaren, maar deze slechts in beperkte mate mogen gebruiken. Artikel 88bis gooit nu plotseling de sluizen open en staat onbeperkt gebruik van alle data voor AI toe.” 

Verdere, enorme beperkingen op bescherming en rechten. De EU-lidstaten hebben voorgesteld de definitie van ‘persoonsgegevens’ drastisch te beperken, waardoor het onder andere onduidelijk is of online tracking bijvoorbeeld nog wel onder de AVG valt. Dit zou moeten gebeuren via zogenaamde ‘pseudoniemen’, die normaal gesproken niet meer onder de AVG zouden vallen. Het probleem is echter dat de meeste IT-systemen primair werken met pseudoniemen (zoals gebruikers-ID’s, tracking-ID’s, IP-adressen of burgerservicenummers). 

Daarnaast moet er rekening worden gehouden met de interne kennis en mogelijkheden van het bedrijf om te bepalen of de AVG überhaupt van toepassing is. Ook mogen de rechten van de betrokkene niet van toepassing zijn als deze door de betrokkene worden misbruikt. 

In de praktijk zijn deze ‘subjectieve’ factoren vatbaar voor misbruik. De beslissing of gegevens nog steeds ‘persoonlijk’ zijn of dat er sprake is van ‘misbruik van een recht’, zou voornamelijk worden genomen door de bedrijven die onder de wet vallen. Beide factoren kunnen de handhaving van de AVG in de praktijk vrijwel onmogelijk maken.

In elk afzonderlijk geval kunnen bedrijven langdurige discussies voeren over hun (onbekende) interne mogelijkheden en intenties en speculeren over de mogelijk ‘misbruikende’ bedoelingen van gebruikers. Dergelijke discussies slepen zich doorgaans jaren voort en leiden tot enorme vertragingen en kosten voor de procedures – allesbehalve ‘vereenvoudiging’ dus.

Schrems: “ Deze veranderingen komen rechtstreeks uit het draaiboek van elk groot advocatenkantoor dat grote techbedrijven verdedigt. We brengen jaren door in de rechtbank en bij de autoriteiten om deze claims te laten afwijzen. De EU-wetgever zal ze waarschijnlijk nog verder aanscherpen en daarmee de EU-wetgeving nog complexer en moeilijker afdwingbaar maken. ”

Standpunt van de Europese Commissie en het Europees Parlement. De Europese Commissie heeft enige tijd geleden een complete koerswijziging doorgevoerd en geeft nu duidelijk prioriteit aan de belangen van industriële lobbygroepen boven fundamentele rechten. Het standpunt van het Europees Parlement blijft verdeeld. Terwijl de meeste leden van de Europese Volkspartij (EPP) pleiten voor steeds meer mazen in de EU-digitale wetgeving, hebben leden van het Europees Parlement uit de centrumlinkse fracties zich daar tot nu toe tegen verzet. Ook extreemrechtse groeperingen verzetten zich steeds vaker tegen voorstellen voor een vrijbrief voor Big Tech. 

Laatste hoop: het Hof van Justitie?  De belangrijkste vraag lijkt te zijn of een wet zonder noemenswaardige beperkingen überhaupt te verenigen is met de grondrechten van de EU. In het verleden heeft het Europees Hof van Justitie EU-wetgeving ongeldig verklaard in zaken die veel minder ernstige inbreuken op de grondrechten van de EU betroffen, zoals het bewaren van gegevens of de overdracht van EU-gegevens naar de Verenigde Staten.

Schrems: ” Als de wetgever elk gevoel voor proportie en richting kwijt is, kan het volk zich alleen nog maar tot de rechter wenden. Elke extreme wet die een groot risico loopt om te worden vernietigd, zou tegelijkertijd alleen maar meer juridische onzekerheid creëren – in plaats van de beloofde vereenvoudiging.”