De enorme belangen die op het spel staan ​​in de federale rechtszaak tegen Meta

Meta heeft door de jaren heen veel schandalen en controverses meegemaakt , maar de status als een van de meest waardevolle bedrijven ter wereld is nooit echt in gevaar geweest. Nu staat het bedrijf van Mark Zuckerberg echter mogelijk voor een reële existentiële bedreiging. Na een reeks onthullingen van klokkenluiders over de dubieuze marketingmethoden van het bedrijf gericht op kinderen, wordt Meta geconfronteerd met een stortvloed aan rechtszaken van staten, scholen en particulieren.

Meta verloor onlangs twee van dergelijke zaken voor de staatsrechtbank, maar dat was klein bier vergeleken met de federale rechtszaak die vorige week in Californië van start ging, aangespannen door die staat samen met Colorado, Kentucky en New Jersey. (De vier staten werden geselecteerd uit de 29 staten die een rechtszaak hadden aangespannen.) De staten, die een schadevergoeding van 200 miljard dollar eisen, stellen dat Meta opzettelijk functies op twee van zijn meest succesvolle producten – Facebook en Instagram – zo heeft ontworpen dat ze verslavend zijn voor kinderen en dat het bedrijf aansprakelijk moet worden gesteld voor de schade die de platforms daardoor hebben veroorzaakt.

Het proces vindt plaats op een precair moment voor techbedrijven in de publieke opinie, te midden van een politieke tegenreactie op AI-datacenters, socialmediaverslaving en miljardairs in het algemeen. Maar is het argument van de staten tegen Meta wel juridisch houdbaar? En welke voorbode zou dit kunnen zijn voor juridische stappen tegen andere Silicon Valley-giganten, waarvan sommige al met soortgelijke rechtszaken te maken hebben?

Om deze vragen te beantwoorden, sprak ik met Stuart Benjamin , hoogleraar aan Duke Law School en tevens co-directeur van het Center for Innovation Policy aldaar. Benjamin is expert op het gebied van telecommunicatie en het recht op vrijheid van meningsuiting, twee gebieden die centraal staan ​​in het proces in Californië.

U hebt gesproken over de uitdagingen die een zaak als deze voor de eisers met zich meebrengt, gezien de bescherming die Meta geniet onder het Eerste Amendement. Wat zijn de belangrijkste obstakels?

In een zaak genaamd Moody v. NetChoice, twee jaar geleden, oordeelde het Hooggerechtshof dat het prioriteren van content onder de vrijheid van meningsuiting valt in de zin van het Eerste Amendement. En elke regulering van content, inclusief aansprakelijkheid voor onrechtmatige daad gebaseerd op de inhoud van iemands uitspraken, is onderworpen aan een strenge toetsing. Er is in de geschiedenis van het Hooggerechtshof slechts één zaak geweest waarin een regelgeving op basis van deze strenge toetsing is gehandhaafd. Deze toetsing is dus in theorie te doorstaan. In de praktijk is het echter vrijwel fataal.

Wat betekent dit dan? Het betekent dat wanneer Facebook of New York Magazine besluit om bepaalde dingen op hun website voorrang te geven boven andere, of bepaalde reacties boven andere, dit allemaal wordt beschouwd als vrije meningsuiting in de zin van het Eerste Amendement. Een belangrijke hindernis is dus meteen al dat er een serieuze belemmering is vanuit het Eerste Amendement voor elke poging om socialemediabedrijven aansprakelijk te stellen voor het prioriteren van meningsuiting die veel mensen, waaronder ikzelf, schadelijk achten.

Dat is één aspect. Een tweede aspect is Sectie 230 , die in de beginjaren van het internet werd ingevoerd en stelt dat je als informatieaanbieder, als socialemediabedrijf, niet aansprakelijk kunt worden gesteld voor de meningsuiting van derden die je host. Combineer die twee aspecten.

En de staten staan ​​al voor grote uitdagingen.

Ik denk dat wat mensen het meest stoort aan socialemediabedrijven de content is die ze ons voorschotelen, en de complottheorieën waar ze ons graag in meeslepen. Het gaat dus niet alleen om hersenvergiftiging, maar studies hebben aangetoond dat als je op sommige van deze diensten zoekt naar iets dat ook maar enigszins met complottheorieën te maken heeft, de automatische afspeelfunctie je steeds dieper in die complottheorieën meevoert.

Waar ik op doel, is dat ik denk dat die argumenten geen stand zullen houden, om een ​​technische term te gebruiken, in het licht van het Eerste Amendement en Sectie 230. Sterker nog, de rechter in deze zaak heeft gezegd dat er een aantal argumenten zijn die simpelweg verboden zijn door het Eerste Amendement en Sectie 230, gewoon ronduit verboden. Daaronder valt het gebruik van algoritmes om verslavende content te creëren. Dat is wat mensen zo storend vinden: “Wacht even, jullie gebruiken algoritmes om mijn kind verslaafd te maken aan deze vreselijke content.” En het antwoord is dat dat argument in deze zaak niet geldig is.

De argumenten die de bedrijven nu aanvoeren, zijn dat diverse ontwerpelementen die niets met de inhoud te maken hebben, de oorzaak zijn van alle problemen: oneindig scrollen, automatisch afspelen, filters waarmee je je uiterlijk kunt veranderen. Waar ze op moeten wijzen, is dat het die functies op zich zijn, los van de inhoud ervan.

En ik ben ervan overtuigd dat de socialemediabedrijven, als ze in beroep gaan tegen een eventuele schadevergoeding, zullen beargumenteren dat automatisch afspelen, oneindig scrollen, enzovoort, onlosmakelijk verbonden zijn met de inhoud. Je kunt dat niet loskoppelen, want automatisch scrollen op zich maakt niemand verslaafd. Als het een automatisch scrollen was van een reeks pagina’s in verschillende grijstinten, zou niemand eraan verslaafd raken.

Meta heeft dit jaar al twee rechtszaken verloren bij de staatsrechtbank. Eén daarvan was in New Mexico en draaide om een ​​ander soort argument dan in de federale zaak: Meta’s behandeling van kinderpornografisch materiaal op haar platform, wat in strijd was met de consumentenbeschermingswetten van de staat. Maar een andere zaak , in Californië, leek wel degelijk te gaan over de kwesties die we hebben besproken. Het ging om de psychische nood van een vrouw die volgens haar werd veroorzaakt door de verslavende ontwerpkenmerken van Meta en Google. Hebben deze zaken uw mening over de kansen van het bedrijf in de federale rechtszaak veranderd?

De rechter in de zaak in Californië verwierp de meeste claims van de eisers, maar stond het argument toe dat de ontwerpkenmerken op zich, los van de inhoud, schade hadden veroorzaakt. Ik durf er dan ook een flinke weddenschap op aan te gaan: de kern van hun hoger beroep tegen die uitspraak zal zijn dat de rechter het mis had, omdat de ontwerpkenmerken op zich onmogelijk tot de schade hadden kunnen leiden die in die zaak aan de orde was.

Maar Meta verloor de zaak op basis van hetzelfde argument dat nu in dit federale proces wordt aangevoerd. Dat is belangrijk, toch?

Ze verloren omdat de rechter het in feite niet eens was met hun argument. In hoger beroep zullen ze betogen dat de rechter een juridische fout heeft gemaakt. Nou, eigenlijk zijn er twee argumenten. Ik weet zeker dat ze ook het procesverslag zullen doornemen en zeggen: “Kijk, er waren verschillende momenten in het proces waarop de inhoud van de zaak doorsijpelde. De jury heeft dus wel degelijk rekening gehouden met de inhoud.”

Maar om terug te komen op je punt over hun verlies — absoluut. Ik wil duidelijk zijn. Ik zeg niet: “Oh, dit zijn absoluut overtuigende argumenten over het ontwerp en de inhoud die onlosmakelijk met elkaar verbonden zijn.” Maar ik denk dat veel mensen zich niet realiseren dat de eisers in deze zaken niet mogen aanvechten wat volgens mij de meeste mensen, inclusief mezelf, het meest verontrustend vinden aan sociale mediasites. Dat is niet zozeer de autoplay of het oneindig scrollen, maar de inhoud die ze via autoplay en oneindig scrollen laten zien.

En als de eisers deze rechtszaken winnen, kunnen ze Meta dwingen om autoplay en oneindig scrollen op te schorten, maar de inhoud op hun platforms zou hetzelfde kunnen blijven.

Je raakt een heel interessant punt aan: wat zou er gebeuren in een wereld zonder autoplay en oneindig scrollen, maar waar socialemediabedrijven nog steeds de content kunnen prioriteren die ze willen prioriteren? Want, nogmaals, dat kunnen ze doen op grond van het Eerste Amendement en Sectie 230.

De theorie van de eisers is dat dit een enorm verschil zal maken en dat er minder verslaving zal zijn. Is dat waar? Of is het zo dat zelfs zonder oneindig scrollen en oneindig afspelen mensen een aanbeveling zullen zien – “Hier is iets dat we je willen laten zien. Waarom klik je hier niet op?” – en dat ze nog steeds precies dezelfde content te zien krijgen? Zo ja, dan is dit een soort Pyrrhusoverwinning, omdat je in feite niets verandert aan wat zo verslavend is.

Deze bedrijven, met name Meta, zijn over het algemeen impopulair bij het publiek, en je zou denken dat een jury niet al te veel sympathie voor ze zou hebben. Denk je dat Meta en soortgelijke bedrijven meer kans maken om te winnen op de door jou genoemde gronden – dat een rechter ten onrechte een bepaald argument heeft toegelaten – dan wanneer deze zaken door een jury worden beslist?

Ja, dat denk ik wel. Deze socialemediabedrijven lopen het risico net zo impopulair te worden als sigarettenfabrikanten. Daarom willen ze niet voor een jury verschijnen.

De jury’s zullen zich misschien niet zo druk maken om artikel 230. Ze zouden zomaar kunnen zeggen: “Laat die gasten maar stikken.”

Inderdaad. En trouwens, de socialemediabedrijven zouden het geweldig vinden als ze bewijs zouden hebben dat de jury hen in feite straft voor hun content. Dat zou voor hen het summum zijn.

Want dan zou er op die gronden beroep aangetekend kunnen worden.

Juist.

Het lijkt er sterk op dat deze zaak uiteindelijk voor het Hooggerechtshof zal komen. En ik denk dat het onwaarschijnlijk is dat dit specifieke Hooggerechtshof veel sympathie zal hebben voor de argumenten van de eisers, gezien de mogelijke gebreken die u daarin hebt geschetst. Bent u het daarmee eens?

Ik denk dat het Hooggerechtshof het er hoogstwaarschijnlijk mee eens zal zijn dat al deze argumenten gebaseerd op inhoud verboden zijn door het Eerste Amendement en artikel 230. Dat betekent niet dat ze het per se eens zullen zijn met het verdere argument dat de socialemediabedrijven willen aanvoeren, namelijk dat geen van deze claims kan worden voortgezet omdat ze allemaal onlosmakelijk verbonden zijn met inhoud. Dat is een agressiever argument, en ik ga niet zeggen: “Oh, ik denk dat het Hooggerechtshof zo zal oordelen.” Maar als het zover komt, denk ik wel dat dat een centraal argument zal zijn dat de bedrijven aan het Hooggerechtshof zullen voorleggen.

Je noemde eerder de sigarettenfabrikanten, die vaak als vergelijking worden gebruikt met socialemediagiganten. Ik ben benieuwd hoe je denkt dat de twee industrieën van elkaar verschillen. In de jaren 90 moesten bedrijven als Philip Morris en RJ Reynolds enorme bedragen betalen omdat ze wisten dat hun producten kanker veroorzaakten, dit voor het publiek verborgen hielden, ze aan kinderen verkochten, enzovoort. Socialemediabedrijven worden er ook van beschuldigd kinderen schade toe te brengen en het publiek daarover te misleiden. Maar verschillen de voorbeelden doordat de sigarettenfabrikanten een daadwerkelijk fysiek product produceerden dat mensen schaadt?

Ik denk dat het grootste verschil is dat er geen twijfel over bestond dat roken kanker veroorzaakt. Ze misleidden mensen dus actief over een oorzakelijk verband dat in feite onweerlegbaar was. Er is veel discussie onder sociale wetenschappers over de schadelijke gevolgen van sociale media. Er zijn veel studies die een correlatie aantonen tussen het gebruik van sociale media en verschillende schadelijke gevolgen, maar correlatie is geen causaliteit.

Een simpel voorbeeld dat socialemediabedrijven graag aanhalen is: “Jullie eisers beweren dat het gebruik van sociale media jongeren angstig maakt. Wij denken dat het eerder zo is dat angstige mensen sociale media gebruiken.” Er zijn weliswaar enkele onderzoeken gedaan naar de oorzaak-gevolgrelatie van sociale media, maar die hebben over het algemeen zeer kleine effecten aangetoond. We hebben dus lang niet zoveel gegevens die aantonen dat sociale media deze schadelijke gevolgen hebben. Dat is volgens mij een enorm verschil.

Dus je zegt dat als er een meer definitief onderzoek zou verschijnen waaruit blijkt dat sociale media daadwerkelijk schadelijk zijn – en ik zeg niet dat dit zal gebeuren, want het is veel minder duidelijk dan bij sigaretten – dat dit de juridische zaak hier echt zou versterken?

Dat is een goede vraag. En ik denk dat het korte antwoord nee is. Maar laat me je twee manieren noemen waarop het relevant is.

Ten eerste vroeg u naar het verschil tussen sigarettenfabrikanten en socialemediabedrijven. Ik weet niet of dit in de publieke opinie voor socialemediabedrijven zal werken, maar ik denk wel dat er een feitelijk verschil is: in de ene context was het oorzakelijk verband duidelijk, in de andere niet. Ik kan me voorstellen dat dit van belang is voor de public relations. Maar ik kan me ook voorstellen dat het er niet toe doet. Dat is dus één aspect. Een tweede juridisch relevant punt is de zaak Brown v. Entertainment Merchants Association, die betrekking had op de poging van Californië om gewelddadige videogames te reguleren.

Het Hooggerechtshof verklaarde die regulering, die gebaseerd was op de inhoud, ongeldig. Ze zeiden: “De enige manier waarop je inhoud kunt reguleren, is als je een direct oorzakelijk verband kunt aantonen tussen de inhoud en verschillende vormen van antisociaal gedrag.” En ze maakten duidelijk dat dit een zeer hoge drempel was. Er waren weliswaar enkele studies, maar het was erg moeilijk om in die studies een echt sterk oorzakelijk verband aan te tonen.

De belangrijkste juridische relevantie hiervan zou liggen in de vraag of eisers de socialemediabedrijven willen aanklagen vanwege hun content. Om misverstanden te voorkomen: ik denk niet dat dit iets verandert aan deze zaken, omdat ze in deze gevallen niet proberen de content aan te pakken. Dat idee hebben ze laten varen. Bovendien is het geen vereiste dat je een zeer sterk causaal verband moet kunnen aantonen om een ​​zaak voor een jury te brengen. In feite vragen we de jury om te bepalen: denkt u dat de verschillende ontwerpkenmerken deze schade hebben veroorzaakt? En zelfs als er geen sociaalwetenschappelijk bewijs voor is, kan de jury tot die conclusie komen.

En laat ik er even bij zeggen, en ik spreek alleen voor mezelf, dat ik niet denk dat er in de verschillende onderzoeken een causaal verband is aangetoond, of een robuust causaal verband. Maar ik heb ook wat ik beschouw als een gefundeerd oordeel, dat nog kan veranderen — een Bayesiaanse prior — dat het gebruik van sociale media waarschijnlijk veel schade toebrengt aan veel mensen.

En ik ontmoedig iedereen die ernaar vraagt, en zelfs sommigen die er niet naar vragen, om tijd door te brengen op sociale media. Dus het feit dat er geen onderzoeken zijn die dit definitief hebben aangetoond, betekent niet dat we als individuen geen eigen oordeel kunnen vellen op basis van wat we nu weten, probabilistische oordelen over wat volgens ons de juiste aanpak is voor de toekomst.

Stel dat Meta deze zaak wint, of verliest maar vervolgens in hoger beroep wint. Zijn er nog andere juridische mogelijkheden om de grote techbedrijven aan te pakken als deze zaak niet lukt? Of is dat dan voorlopig het einde van de mogelijkheden?

Ik denk dat dit de beste en meest effectieve manier is om de socialemediabedrijven aan te pakken. Er zijn pogingen tot wetgeving, maar die wetgeving richt zich vooral op de inhoud, dus ik denk dat die op grond van het Eerste Amendement ongeldig zal worden verklaard.

Dit is een zeer zorgvuldig opgezette rechtszaak die zich over meerdere districten uitstrekt, met veel slimme mensen die uiterst nauwkeurige argumenten aanvoeren. Als dit mislukt, is dat een zeer slecht teken voor iedereen die op een alomvattende manier succes wil boeken. Maar als de eisers winnen, is dat een zeer slecht teken voor de socialemediabedrijven.

Dit interview is ingekort en bewerkt voor de duidelijkheid.