Zuckerberg De echte roofdier

Mark Zuckerberg wist dat het ontwerp van zijn platforms schadelijk kon zijn voor kinderen. Neurowetenschap leerde hem hoe hij die kwetsbaarheden kon omzetten in een bedrijfsmodel.

Zuckerberg Zoals statisticus Edward Tufte van Yale opmerkte: “Er zijn slechts twee sectoren die hun klanten ‘gebruikers’ noemen : drugsdealers en softwarefabrikanten.” Op 27 augustus 2026 tekende Meta een schikking buiten de rechtbank met 47 Amerikaanse staten. ¹ dat ze was aangeklaagd voor het “opzettelijk in gevaar brengen van jongeren” met haar socialemediaplatforms. ² Om precies te begrijpen waarvoor Meta werd bekritiseerd en welke schadelijke elementen er schuilgaan in de kern van de algoritmes, moeten we een omweg maken die sindsdien niet vaak is voorgesteld, niet vanuit een juridisch, maar vanuit een neurowetenschappelijk oogpunt.

Waarvan wordt Meta beschuldigd?

Ten eerste was er sprake van een dubbele moraal. Meta wist dankzij interne studies dat haar producten gevaarlijk waren, maar erkende dit risico nooit publiekelijk en verzekerde haar gebruikers dat ze geen gevaar liepen. Dit is vergelijkbaar met sigarettenfabrikanten die dankzij interne studies wisten dat hun producten schadelijk waren, maar lange tijd beweerden dat ze juist goed waren voor de gezondheid, of zelfs met airbagfabrikant Takata, die ook wist dat haar producten gevaarlijk waren, maar er niets over zei en ze bleef verkopen zonder het publiek te informeren over de gevaren.

Meta handelde niet uit sadisme of een voorliefde voor het kwaad. Zoals klokkenluider Frances Haugen, de drijvende kracht achter de “Facebook Papers”, al aangaf : ³ “Wat goed was voor zijn bedrijf, was slecht voor zijn gebruikers, en Mark Zuckerberg koos systematisch voor zakelijke belangen, wetende dat dit schadelijk zou zijn voor de geestelijke gezondheid van zijn gebruikers.”

Van existentiële angst tot cognitieve roofzucht.

Het is bekend dat Mark Zuckerberg werd achtervolgd door een terugkerende nachtmerrie: MSN Messenger en Myspace. Hij bracht de mentale gezondheid van zijn gebruikers niet opzettelijk in gevaar omdat hij ervan genoot chaos te creëren, maar omdat hij doodsbang was dat mensen, met name jongere gebruikers, zijn app geleidelijk zouden verlaten om meer tijd te besteden aan concurrerende apps. Hij leefde in constante angst voor hetzelfde lot als Myspace of MSN Messenger, de eerste sociale netwerken die een tijdlang dé plek waren voor digitale sociale contacten onder jongeren, voordat ze geleidelijk werden ingeruild voor Facebook.

Mark Zuckerberg handelde daarom op twee fronten. Enerzijds vertoonde hij wat omschreven kan worden als “passieve roofzucht” door zich te verzetten tegen alle veiligheidsmaatregelen die door zijn eigen onderzoeksteams sterk werden aanbevolen. Het ging hierbij met name om maatregelen die bedoeld waren om wrijving te creëren en zo de tijd die gebruikers op het platform doorbrachten en de betrokkenheid te verminderen. Mark Zuckerberg verwierp deze maatregelen categorisch uit angst dat zijn gebruikers simpelweg naar de concurrentie zouden overstappen, waardoor een daling vergelijkbaar met die van Myspace zou worden versneld. 

Het bedrijf heeft ook “actieve roofzucht” toegepast door neurowetenschap te gebruiken om de dopaminerge respons die door het gebruik van zijn platforms in de hersenen van jongere gebruikers wordt opgewekt, te optimaliseren. Simpel gezegd heeft Mark Zuckerberg bewust gebruikgemaakt van bekrachtigingsleren om hun hersenen te verzadigen met dopamine en hun vermogen om de verleiding te weerstaan ​​om steeds weer naar zijn platforms terug te keren drastisch te verminderen. 

Neurowetenschap inzetten om de kwetsbaarheden van de jonge hersenen doelbewust te exploiteren.

Het is belangrijk te onthouden dat de term ‘verslaving’, in de strikte zin die wordt gebruikt om de relatie met sociale netwerken en schermen te beschrijven, vergelijkbaar met de relatie met drugs of sportweddenschappen, nog steeds onderwerp van discussie is binnen de medische wereld en dat er tot op heden geen consensus over bestaat. 

De neurowetenschap onthult echter een cruciaal element. 

Mark Zuckerberg en zijn onderzoeksteam wisten dat adolescenten verschillen vertonen in de snelheid waarmee verschillende delen van hun hersenen zich ontwikkelen. Om het sterk te vereenvoudigen: het hersengebied dat ‘beloningen’ ontvangt en verwerkt, kan worden beschouwd als de nucleus accumbens, en het gebied dat de langetermijnrisico’s van gedrag inschat en impulsen beheerst, is de prefrontale cortex. 

Het blijkt echter dat bij jongeren de nucleus accumbens zich veel sneller ontwikkelt dan de prefrontale cortex, wat leidt tot een verhoogde gevoeligheid voor beloningen en een veel grotere moeite om impulsief gedrag en plotselinge drang te beheersen. Daarom heeft Mark Zuckerberg “logischerwijs” gekozen voor een roofzuchtig ontwerp gebaseerd op het optimaliseren van het beloningspatroon, waarmee hij van deze zwakte profiteert.

Ons begrip van de impact van beloningsmechanismen op het menselijk brein is met name gebaseerd op het gedragswetenschappelijke en neurowetenschappelijke onderzoek van B.F. Skinner, hoogleraar psychologie aan Harvard, die in 1957 samen met Charles Ferster het boek Protocols of Reinforcement Learning publiceerde. ⁴ evenals in die van Wolfram Schultz, hoogleraar neurowetenschappen aan Cambridge, die in 1998 een baanbrekend artikel publiceerde met de titel “Dopaminerge neuronen en voorspellende beloningssignalen”. ⁵

Samen concluderen ze dat dopamine, in tegenstelling tot wat algemeen wordt aangenomen, geen neurotransmitter is waarvan de aanwezigheid op zichzelf al een indicatie is van plezier of beloning.

Dopaminerge neuronen, dat wil zeggen de neuronen die dopamine afscheiden, worden geactiveerd of geblokkeerd door de associatie tussen de voorspelling of er al dan niet een beloning zal optreden en of die voorspelling al dan niet uitkomt. Dit is een contra-intuïtief aspect, maar absoluut essentieel voor het begrijpen van Meta’s strategie. De voorspelling van de beloning is voor de hersenen net zo belangrijk als de beloning zelf.

Soms hoor je mensen zeggen: “Een euro gewonnen met sportweddenschappen is veel meer waard dan drie euro verdiend met werken.” Nu weten we dat er een duidelijke neurowetenschappelijke basis is voor dit reële fenomeen. Als de hersenen de zekere komst van een beloning voorspellen en deze ook daadwerkelijk ontvangen, stoppen de dopaminerge neuronen uiteindelijk met reageren. We kunnen dit resultaat extrapoleren en zo talrijke eigenschappen van de menselijke soort verklaren, die een beloning niet meer volledig waardeert zodra de komst ervan zeker is.

De hersenen reageren veel minder op wat ze “als vanzelfsprekend” beschouwen. Dopaminerge neuronen worden juist geactiveerd wanneer we weten dat een beloning mogelijk is, maar niet gegarandeerd. De beroemde “dopaminepieken” bereiken dus hun hoogtepunt wanneer we ons in een staat van anticipatie en onzekerheid bevinden.

De dopaminerge beloningscircuits zijn daarom nauw verwant aan het concept van reinforcement learning, hetzelfde concept dat wordt gebruikt om talloze AI-systemen te trainen die uiteindelijk de basis vormen van “neurale netwerken”. Dopamine en de intensiteit van de beloning bereiken hun piek wanneer de hersenen weten dat een beloning elk moment kan komen, maar geen duidelijk patroon hebben om deze te anticiperen.

Als de beloning bijvoorbeeld regelmatig elk uur wordt gegeven, stoppen de dopaminerge neuronen na een paar uur met reageren. Daarentegen, als de beloning soms na tien minuten, soms na twee uur en soms na 40 minuten komt, worden de dopaminerge neuronen bij elke beloning overactief.

Actieve roofdierontwerpstructuur

Met volledige kennis van al deze wetenschappelijke ontdekkingen introduceerde Mark Zuckerberg doelbewust een “roofzuchtige filosofie” in zijn algoritmes, bedoeld om de impact van elke “beloning” op dopaminerge neuronen en daarmee op de nucleus accumbens , het deel van de hersenen dat deze ontvangt, te maximaliseren. 

Omdat de nucleus accumbens bij jongeren verder ontwikkeld is dan de prefrontale cortex – die hen in staat stelt impulsen te beheersen en “dingen te reguleren” – kunnen deze dopaminepieken worden vergeleken met intermitterend bekrachtigingsleren. Mark Zuckerberg heeft hiermee een roofzuchtige filosofie in zijn algoritmes geïntroduceerd, die ontworpen zijn om de hersenen van jongeren te manipuleren, net zoals onderzoekers dat doen met de hersenen van muizen.

Het is terecht om te spreken van “actieve roofzucht”, aangezien het, zoals we hieronder zullen zien, niet simpelweg gaat om het tegenwerken van de implementatie van veiligheidsmaatregelen, maar eerder om het ontwerp ervan zo te richten dat het doelbewust ingrijpt op de nog in ontwikkeling zijnde hersenen van de jongste en meest kwetsbaren.

Wat heeft het concreet teweeggebracht? We kunnen ons richten op drie belangrijke aspecten: ten eerste, de timing van de meldingen; ten tweede, het oneindige scrollen en het “gokkast”-effect daarvan; en ten slotte, de intentie om ” schoolpieken ” uit te lokken om het gebruik tijdens de lessen te maximaliseren.

De algoritmes van Meta vertragen opzettelijk meldingen om het moeilijker te maken te voorspellen wanneer ze aankomen, waardoor hun impact op de hersenen wordt gemaximaliseerd. ⁶ Stel je voor dat een tiener genaamd Elie een foto op Instagram plaatst.

Elie zou op die foto likes krijgen met een regelmatige frequentie van ongeveer één like per 5 minuten. Het Instagram-algoritme zal haar niet elke 5, 10 of 15 minuten een melding sturen, omdat die regelmatige frequentie het makkelijker zou maken om de toekomstige ontvangst van die beloning te voorspellen, wat dan geen effect zou hebben op haar dopaminerge neuronen. Daarom zal het algoritme een melding sturen na 5 minuten, dan na een uur, dan na 27 minuten, enzovoort.

De hersenen begrijpen dan dat een beloning op elk moment kan komen, zonder dat het mogelijk is om precies te voorspellen wanneer. Juist deze onzekerheid houdt het beloningscircuit actief en versterkt de reactie: een massale afgifte van dopamine. De onregelmatigheid van de meldingen bootst het principe van intermitterend bekrachtigingsleren na, waarbij een onvoorspelbare beloning de herhaling van een gedrag stimuleert. Maar onvoorspelbaar betekent niet willekeurig. De timing van de melding kan zo worden berekend dat de kans dat de gebruiker terugkeert naar het platform wordt gemaximaliseerd.

Het algoritme analyseert de dataset met betrekking tot het gebruik van het sociale netwerk door de gebruiker om het versturen van meldingen te optimaliseren. ⁷ Laten we terugkeren naar Elie’s voorbeeld. Het algoritme berekent de gemiddelde duur van haar sessies in de app en voorspelt wanneer ze de app waarschijnlijk zal verlaten. Als ze veel ‘ likes ‘ op haar foto krijgt, zal de app haar geen melding sturen, maar juist wachten tot het moment waarop ze de app waarschijnlijk zal verlaten om haar de melding en dus de ‘beloning’ te sturen.

Het tweede aspect van deze “filosofie van actieve roofzucht” verwijst naar oneindig scrollen en, meer specifiek, naar het fysiek naar beneden trekken van de feed om deze te vernieuwen. De Meta-onderzoekers hebben dit mechanisme zelf vergeleken met een gokautomaat: de gebruiker activeert iets zonder te weten wat er zal verschijnen, maar anticipeert op de mogelijkheid van een dopaminekick. 

Meta heeft oneindig scrollen niet uitgevonden ; dat werd in 2006 bedacht door Aza Raskin. Ook ‘pull-to-refresh ‘, het update-mechanisme waarbij je je vinger naar beneden schuift, werd in 2009 ontwikkeld door Loren Brichter. Het bedrijf van Mark Zuckerberg heeft deze technologieën echter wel overgenomen en geoptimaliseerd om hun effect op het neurologische beloningscircuit te versterken. 

Enerzijds hebben ze een cirkelvormige pijl toegevoegd die roteert terwijl de feed wordt bijgewerkt, zelfs met een uitstekende internetverbinding en zonder laadtijd, om de draai van een gokautomaat na te bootsen – essentieel voor het activeren van dopaminerge neuronen.

De dopamineafgifte bereikt namelijk een piek wanneer dit wiel draait en de hersenen anticiperen op een mogelijke beloning, zelfs zonder de zekerheid dat die beloning er ook daadwerkelijk komt. Dit wiel, dat roteert terwijl de feed wordt bijgewerkt, is toegevoegd en kunstmatig verlengd, ongeacht de status van het netwerk, met als enig doel het activeren van dopaminerge neuronen. 

Binnen dit “gokkasteffect” is het algoritme er ook verantwoordelijk voor dat er met tussenpozen en onvoorspelbaar “beloningen” worden aangeboden: soms krijg je een middelmatige feed met oninteressante advertenties, “geen beloning”, andere keren zie je een feed met een virale video die aansluit bij je interesses, “kleine beloning”, en weer andere keren zie je een feed met nepnieuws dat je graag gelooft omdat het bevestigt wat je al gelooft en dat daarom een ​​”grote beloning” oplevert.

Tot slot is het de moeite waard om de agressieve campagne voor intensiever gebruik van sociale media door tieners tijdens schooluren te vermelden. In 2017 was Mark Zuckerberg hierover zeer duidelijk: “Ons belangrijkste doel voor 2017 is om tieners zoveel mogelijk tijd op onze platforms te laten doorbrengen.” ⁸ Zo begonnen de Meta-teams met het ontwerpen van wat zij ” schoolblasts ” noemden: golven van meldingen die naar jongeren werden gestuurd van wie de locatiegegevens aangaven dat ze zich in een school bevonden.

Het doel was om groepsdruk en de “angst om iets te missen” te benutten om massaal gebruik van sociale media tijdens de schooldag te stimuleren. Een leidinggevende van Meta schreef zelfs in een interne e-mail: “We moeten ons ontwerp optimaliseren zodat geen enkele jongere een scheikundeles kan doorstaan ​​zonder even op zijn of haar telefoon te kijken.” 

“Passieve roofdier”-ontwerp: niets mag de tijd die je online doorbrengt belemmeren.

Vervolgens kunnen we ons richten op wat we ‘passief roofgedrag’ zouden kunnen noemen, namelijk het bewust weigeren om maatregelen te nemen die de veiligheid van gebruikers verbeteren. We kunnen bijvoorbeeld het geval van de Ford Pinto aanhalen: een auto waarvan Ford wist dat hij gevaarlijk was. Het zou Ford slechts 11 dollar per auto hebben gekost om levens te redden, maar een intern onderzoek berekende dat niets doen goedkoper zou zijn voor het bedrijf. Op vergelijkbare wijze deed Mark Zuckerberg niets en liet hij de geestelijke gezondheid van veel tieners achteruitgaan, in sommige gevallen ernstig.

Deze “passieve roofzucht” mag niet als minder ernstig worden beschouwd, aangezien het een categorische weigering inhoudt om rekening te houden met de veiligheid en het welzijn van gebruikers. Bijna alle veiligheidsmaatregelen die Mark Zuckerbergs onderzoekers hebben voorgesteld, zijn gebaseerd op interne studies die de zeer ernstige schadelijke effecten van metaplatformen op jonge gebruikers aantonen. 

Het eerste aspect van passief misbruik betreft de manipulatie van minderjarigen door volwassenen. Al in 2019 was Meta zich ervan bewust dat volwassenen via Instagram contact zochten met tieners en kinderen die ze niet kenden, en werd aangespoord om actie te ondernemen.

Maar hun eigen versie van de interne Ford Pinto-studie – oftewel hun interne berekeningen van de “kosten voor het bedrijf van het verbeteren van de gebruikersveiligheid” – schatte dat het standaard instellen van tieneraccounts op “privé”, waardoor de mogelijkheid voor onbekende volwassenen om contact met hen op te nemen zou worden uitgesloten, 5,4 miljoen ongewenste interacties per dag zou hebben voorkomen.

Dit zou zeer nadelig zijn geweest voor het bedrijf, omdat het “de groei en betrokkenheid aanzienlijk zou hebben verminderd”. Daarom werd deze maatregel pas in 2024 geïmplementeerd, waardoor miljarden interacties tussen volwassenen en kinderen of tieners konden plaatsvinden. ⁹

Het tweede aspect van Meta’s passieve roofzucht betreft de verspreiding van nepnieuws, desinformatie en haatzaaiende taal. Meta’s eigen onderzoeksteams hebben verschillende mechanismen voorgesteld om dit fenomeen te bestrijden, die samen de term “viraliteit inperken” dragen.

Het idee is om de virale verspreiding van content te beteugelen, omdat deze een onevenredig groot aandeel nepnieuws en haatzaaiende uitingen bevat. Bijvoorbeeld door het aantal keren dat content gedeeld kan worden te beperken of door gebruikers te verplichten een reactie achter te laten voordat ze de content opnieuw kunnen delen. Hoewel een intern onderzoek aantoonde dat deze mechanismen het aandeel nepnieuws aanzienlijk zouden kunnen verminderen, was Mark Zuckerberg persoonlijk tegen elke vorm van belemmering die de betrokkenheid zou verminderen en het risico zou vergroten dat gebruikers naar de concurrentie overstappen. ¹⁰

Het is belangrijk om hier te vermelden dat de teams van Meta Europese politici hebben geïnterviewd die expliciet hebben toegegeven dat ze gedwongen werden om giftige, en zelfs haatzaaiende, content te publiceren om enige zichtbaarheid te verwerven. Sommigen hebben Meta specifiek gevraagd om de algoritmes aan te passen, met name om de zichtbaarheid van content die woedende reacties oproept te verminderen, zodat ze niet hun toevlucht hoeven te nemen tot haatzaaiende taal. 

Het derde aspect van Meta’s passieve roofzucht heeft te maken met de hoeveelheid tijd die op de app wordt doorgebracht en de bewuste weigering om ook maar de kleinste hindernis op te werpen. Psychologisch onderzoek heeft de voordelen van ‘stopsignalen’ in de media die we consumeren geanalyseerd en benadrukt.

Adam Alter, psycholoog aan de New York University, die uitgebreid onderzoek heeft gedaan naar de mechanismen van technologieverslaving – en die onder andere het boek * Irresistible: The Rise of Addictive Technology and the Business of Keeping Us Hooked* uit 2017 publiceerde – heeft het belang van ‘stopsignalen’ in de strijd tegen verslaving benadrukt. ¹¹

Het maakt met name onderscheid tussen media uit de 20e eeuw, die gebruik maakten van dergelijke prikkels (het einde van een boekhoofdstuk, een voetnoot in een tijdschrift, het einde van een televisieprogramma of een reclameblok, enz.), en de gebruikerservaring (UX) van technologie, die deze prikkels bewust weglaat door ‘oneindig scrollen ‘ te normaliseren. Interne studies bij Meta hebben herhaaldelijk een duidelijk verband aangetoond tussen dit systeem en dwangmatig gebruik, slaapstoornissen en problemen met het zelfbeeld bij adolescenten.

Hoe weten we dit allemaal?

Dit alles is bekend dankzij klokkenluider Frances Haugen. ¹² die Meta achterliet en tienduizenden compromitterende documenten meenam die hij openbaar had gemaakt, met name via de “Facebook Papers”. ¹³ van 2021 en dankzij de parlementaire onderzoekscommissies die door het Congres zijn ingesteld. ¹⁴  Parlementsleden hebben getuigenissen gehoord van tal van huidige en voormalige functionarissen van het bedrijf. Vervolgens hebben verschillende Amerikaanse staten een rechtszaak aangespannen tegen Meta. ^{15  16} leidde tot onderzoeken ¹⁷ en maakte de afgifte van talrijke huiszoekingsbevelen en gerechtelijke bevelen tot het overleggen van documenten mogelijk.

Waar eindigt de gebruikerservaring en waar begint de roofzucht?

Meta wordt bekritiseerd vanwege het ontwerp en de gebruikerservaring van haar socialemediaplatformen, met name Facebook en Instagram. Maar is het niet paradoxaal om een ​​bedrijf, waarvan de kernactiviteit juist het creëren van de meest gebruiksvriendelijke sociale netwerken is, te bekritiseren omdat het daar “te effectief” in is?

Zou een autofabrikant bekritiseerd worden omdat hij auto’s maakt die “te prettig rijden”? Er bestaat immers een term en een heel vakgebied dat zich richt op het optimaliseren van ontwerp om de ervaring zo aangenaam mogelijk te maken: UX, oftewel gebruikerservaring? Wat is dan het verschil tussen een uitstekende UX, waarvan we het ontwerp zouden moeten toejuichen, en een ontwerp dat grenst aan “roofzuchtig”?

Een socialmediaplatform met een uitstekende gebruikerservaring (UX) en een geoptimaliseerd ontwerp dat gebruikers aanmoedigt om er tijd op door te brengen, kan worden vergeleken met een wielrenner die de Tour de France wint. Meta, waarvan het ontwerp als “roofzuchtig” wordt omschreven, lijkt meer op een zwaar gedopte wielrenner die de Tour de France alleen wint door herhaaldelijk misbruik te maken van middelen die zijn gezondheid in gevaar brengen.

In het ene geval wordt de wedstrijd “eerlijk” gewonnen: door volwassenen met een reeds volledig ontwikkeld brein te benaderen met kwalitatief hoogwaardige content. In het andere geval wordt de overwinning behaald door vals te spelen en een oneerlijk voordeel uit te buiten: door zich te richten op bijzonder kwetsbare jongeren, gebruikmakend van het feit dat hun hersenen zich nog ontwikkelen, dankzij de neurowetenschap.

Is het noodzakelijk om te kiezen tussen veiligheid en concurrentievermogen?

Het bewijsmateriaal toont aan dat Mark Zuckerberg een fundamenteel gebrek aan sociale en epistemologische ethiek heeft, opzettelijk weigert de minste verantwoordelijkheid te nemen voor de gezondheid van zijn gebruikers, en bereid is hen zoveel mogelijk schade toe te brengen zolang het zijn bedrijf maar ten goede komt. 

Mark Zuckerberg verzette zich tegen vrijwel elke beveiligingsmaatregel die door zijn onderzoeksteams werd voorgesteld, in naam van de concurrentiepositie van zijn bedrijf. Zoals we al eerder hebben opgemerkt, was zijn redenering simpel: “Als we obstakels op onze platforms introduceren, kiezen onze gebruikers de makkelijkere weg en gaan ze gewoon naar de concurrentie.”

Het is hetzelfde argument dat boeren gebruiken om zich te verzetten tegen het verbod op pesticiden en de herinvoering ervan te eisen: “Als wij het niet doen, doen anderen het wel; zij zullen concurrerender zijn dan wij, en dus zal het publiek sowieso de schadelijke gevolgen voor de gezondheid ondervinden, maar alleen wij zullen de negatieve economische gevolgen ondervinden.”

Dit zijn precies dezelfde argumenten die techreuzen vandaag de dag gebruiken om zich te verzetten tegen te strenge AI-regulering: “Als wij dat doen, doet China het niet en lopen ze op ons vooruit.” Dit zijn argumenten die we gemakkelijk kunnen weerleggen, mits we de volksgezondheid weer centraal stellen in onze strategieën en politieke denkbeelden.