indignatieai-redactie 
Het Rithm-project is ontstaan omdat ik een krachtige nieuwe technologie AI op de markt zag komen, maar ook omdat ik jonge volwassenen had horen nadenken over hoe ze de vorige technologie interpreteerden.
AI – Jarenlang beschreven tieners hoe sociale media hun relationele wereld hadden veranderd. Vriendschappen die voor het internet nooit mogelijk of in stand gehouden hadden kunnen worden. Maar ook een golf van relaties die geacteerd aanvoelden, de spanning van sociale vergelijking en de aantrekkingskracht van verleidelijke functies die hen bleven scrollen in plaats van de dingen te doen die ze eigenlijk wilden doen. Veel ervan sloop er ongemerkt in, maar ik bleef maar denken: we hadden een deel hiervan kunnen zien aankomen en andere keuzes kunnen maken.
Het Rithm-project is ontstaan vanuit de overtuiging dat we niet twintig jaar hoeven te wachten om te zien hoe AI zich ontwikkelt.
We hebben dan ook goed opgelet toen jury’s in Californië en New Mexico Meta dit voorjaar aansprakelijk stelden – niet voor wat gebruikers plaatsten, maar voor hoe het platform was ontworpen. Oneindig scrollen. Automatisch afspelen. Algoritmische aanbevelingen. Pushmeldingen die ontworpen waren om kinderen terug te lokken. In New Mexico werd Meta op alle punten aansprakelijk gesteld voor kinderuitbuiting en productnalatigheid. Deze jury’s zeiden eigenlijk: jullie wisten het, en jullie kozen ervoor.
We hebben gesproken met leiders op het gebied van technologieveiligheid, voormalige platformmedewerkers en jongeren die deze dynamiek aan den lijve hebben ondervonden. We vroegen ons af: welke lessen moeten we meenemen naar dit moment met AI?
1. Veiligheid mag geen bijzaak zijn bij het ontwerpen.
Een voormalig medewerker van Meta beschreef de architectuur van Instagram als volgt: “Je hebt je Feed, je Stories, je Explore, je Reels, 12 tot 15 teams met elk 10 tot 15 engineers, die allemaal proberen het product aantrekkelijker te maken. En dan is er één team verantwoordelijk voor alle veiligheidsmechanismen in het algoritme.”
Anders gezegd: als deze tools een auto waren, zouden er twaalf teams zijn die hem sneller proberen te maken en één team dat de remmen test.
Investeren in (en luisteren naar) teams die deze veiligheidsrol vervullen, gaat niet alleen over het controleren van functionaliteiten voordat ze worden uitgebracht. Insiders met wie we spraken, waarschuwden ook voor een “degradatieprobleem”. Producten die bij de lancering veilig leken, vertoonden na verloop van tijd verslechtering of reageerden op problematische wijze op toekomstige wijzigingen.
De AI-industrie volgt een vergelijkbaar stappenplan: zo snel mogelijk ontwikkelen, vaak met een wapenwedloop als resultaat. Het streven naar betere producten, en sneller, is geweldig. Maar een onderdeel van dat streven is een serieuze investering in de veiligheidsteams en -procedures die volgens de rechtbanken tekortschoten bij socialemediabedrijven. We kunnen pleiten voor interne en externe controlemechanismen en momenten van voorzichtigheid ( zoals Anthropic dat de release van Mythos uitstelde ) net zozeer vieren als de grote doorbraken.
2. Slijmerij is het nieuwe oneindige scrollen.
De Meta-zaak richtte zich op functies die ervoor zorgden dat kinderen langer op het platform bleven dan ze wilden. In de AI-wereld komt dit neer op functies die een gevoel van verbondenheid creëren. De meeste AI-tools bevestigen, beaamt en onderschrijven. Ze vertellen je wat je wilt horen en verzekeren je dat ze er altijd voor je zullen zijn. Voor een tiener wiens zelfbeeld zich nog ontwikkelt, kan dit bedwelmend werken. En ze zijn niet de enigen: een nieuwe studie van Stanford toonde aan dat gebruikers kruiperige modellen vertrouwden en verkozen boven neutrale modellen.
Uit ons onderzoek onder bijna 2400 jongeren bleek dat de groepen die AI gebruiken voor emotionele ondersteuning en AI-personages de hoogste mate van afhankelijkheid en het grootste risico op menselijke verdringing vertonen. OpenAI’s eigen onderzoek toonde aan dat meer tijd doorbrengen met hun chatbots, met name in de spraakmodus, eenzaamheid tijdelijk verminderde, maar de tijd die in isolatie werd doorgebracht juist vergrootte.
De Meta-onderzoeken brachten ook aan het licht dat ’tienercontroles’ en veiligheidsfilters niet vaak genoeg worden gebruikt, snel hun werking verliezen en niet zijn ontworpen om de onderliggende drijfveren aan te pakken. Hetzelfde patroon doet zich voor in AI: oppervlakkige vangrails die worden aangeprezen als een veiligere ’tienerervaring’ bovenop modellen die nog steeds inherente risico’s bevatten.
Bij The Rithm Project zijn we begonnen met het benoemen van de prosociale ontwerpkeuzes die gezonde menselijke relaties ondersteunen. Dit is een proces in ontwikkeling, maar de opdracht is om de kenmerken te benoemen die we willen zien en de kenmerken te vermijden die interactie stimuleren terwijl ze tekenen van daadwerkelijke schade vertonen.
3. “De meeste gebruikers hebben er geen last van” is een slecht verweer.
De socialemediabedrijven beargumenteerden het aan de hand van gemiddelden. Lage prevalentie. De meeste tieners hebben er geen last van. Oorzakelijk verband niet aan te tonen. De jury’s verwierpen die redenering. De vraag was of de bedrijven hadden nagelaten actie te ondernemen, terwijl ze wisten dat sommige gebruikers schade zouden ondervinden.
Ons eerste onderzoek naar AI wijst op een vergelijkbare realiteit, maar het beeld is complexer dan “een paar kinderen verkeren in een crisis”. Ja, een klein percentage dat de ernstigste problemen ondervindt, loopt snel op bij honderden miljoenen gebruikers.
Maar er is ook een keerzijde: subtielere schadelijke gevolgen die bijna alle gebruikers treffen. Slijmerig ontwerp. Antropomorfe AI. Aandachtstrekkende technieken zoals emotioneel manipulatieve afscheidswoorden . Deze leiden niet tot acute crises, maar recent onderzoek wijst op de gevolgen: afname van prosociaal gedrag , versterking van bestaande overtuigingen en een langzame verdringing van de menselijke relaties die jongeren het hardst nodig hebben. Ons eigen onderzoek benadrukt dit vicieuze cirkeleffect: 47% van de jongeren die AI gebruiken voor emotionele en relationele ondersteuning en 49% van degenen die AI-personages gebruiken, geven aan dat ze zich in een moment van nood vaker tot AI wenden dan tot mensen.
Er is een verstandige middenweg tussen “het is gevaarlijk voor sommigen, verbied het voor iedereen” en “er raakt altijd wel iemand gewond, daar is niets aan te doen”. Dit houdt in dat er geïnvesteerd wordt in veiligheidsteams om kwetsbare groepen te identificeren, betere interventies te ontwikkelen en veiligere ervaringen te bieden aan alle gebruikers – terwijl tegelijkertijd het publieke bewustzijn van de waarschuwingssignalen, de acute gevolgen en de geleidelijke ontwikkeling ervan wordt vergroot.
4. Investeer in preventie, zowel op als buiten het platform.
Zowel op sociale media als in AI delen de meest kwetsbare jongeren een gemeenschappelijk profiel: ze hebben het gevoel dat ze niet zichzelf kunnen zijn tegenover de mensen om hen heen, ze voelen zich een last, ze hebben het gevoel dat er niemand is tot wie ze zich kunnen wenden. Deze signalen openbaren zich buiten de platforms, in de relaties en omgeving van een jongere, lang voordat diegene een statistisch gegeven wordt.
Naarmate we investeren in het veiliger maken van technologie, moeten we een vergelijkbare investering doen in de relationele infrastructuur rondom jongeren: scholen waar ze zich thuis voelen, plekken waar ze zichzelf kunnen zijn, mentorprogramma’s en gemeenschapsprogramma’s die toegankelijk en gelijkwaardig zijn. Ons onderzoek toont aan dat het gevoel echt gezien te worden in menselijke relaties een van de sterkste beschermende factoren is tegen risicovol AI-gebruik. Het is ook goed voor het individuele welzijn en de collectieve bloei. De technologie is belangrijk. Maar dat geldt ook voor alles wat we eromheen bouwen.
5. Juridische immuniteit vertraagde de verantwoording met 20 jaar.
Artikel 230 beschermde socialemediabedrijven twintig jaar lang tegen aansprakelijkheid voor de inhoud op hun platforms. In de praktijk betekende dit dat wanneer schadelijke inhoud kinderen bereikte – materiaal over seksueel misbruik van kinderen, cyberpesten, expliciet geweld – de juridische schuld lag bij de gebruikers die het plaatsten, en niet bij de platforms die het hostten en verspreidden. De bedrijven waren niet aansprakelijk voor wat hun product mogelijk maakte.
Er is al een aanzienlijke druk om AI-bedrijven te beschermen tegen regelgeving, waaronder een mislukte poging om een bepaling op te nemen in de “One Big Beautiful Bill” die staatsregulering van AI gedurende 10 jaar zou verbieden. En AI-bedrijven doen zelf ook een duit in het zakje om de weg vrij te maken voor meer van dit soort bescherming, door meer dan 83 miljoen dollar uit te geven aan de federale verkiezingen voor de komende tussentijdse verkiezingen.
We moeten oppassen dat we geen voorwaarden scheppen voor immuniteit voor bedrijven met een dergelijke invloed. Het doel is niet om de vooruitgang te belemmeren, maar om vooruit te komen met het verantwoordelijkheidsgevoel dat een dergelijke macht vereist.
Zowel sociale media als AI delen een fundamentele premisse die ten grondslag ligt aan alle bovenstaande lessen: de modellen zijn ontworpen om gebruikersbetrokkenheid te stimuleren. Wanneer de prestaties van een model voornamelijk worden gemeten aan de hand van het vermogen om gebruikers betrokken te houden, komt al het andere – welzijnsrichtlijnen, ontwikkelingsaanbevelingen, een meer doordacht ontwikkelingstempo – op de achtergrond te staan.
Wat we in plaats daarvan nodig hebben, is een fundamenteel andere maatstaf om te optimaliseren: gezonde en veilige interactie. Hoe deze maatstaf eruit moet zien, moet net zo’n hoge prioriteit krijgen als het behalen van de overwinning in de AI-race, en moet worden opgelost met ingenieurs, psychologen, beleidsmakers en ethici aan tafel.
Er is een belangrijk verschil tussen AI en sociale media. Sociale media zijn een reeks producten die je kunt reguleren, herontwerpen of waarvoor je een leeftijdsgrens kunt instellen. AI wordt infrastructuur, verweven in zoekmachines, besturingssystemen, educatieve tools en de manier waarop we met informatie omgaan. De meer accurate historische vergelijking is misschien wel het internet zelf. Dat maakt het complexer en des te urgenter.
Het is naïef om niet te erkennen dat deze AI-instellingen onder vergelijkbare omstandigheden opereren als de socialemediabedrijven, en in veel gevallen met dezelfde mensen aan het roer. Het is eveneens naïef om de macht die we als consumenten en burgers hebben, uit handen te geven. Zo veel van deze zakelijke en ontwerpkeuzes zijn een reactie op ons: wat we via ons gebruik van de platforms laten zien dat we willen, wat we bereid zijn op te offeren voor gemak, en of we zinvolle regelgeving eisen van de leiders die daartoe in staat zijn.
Dit begint met weten waar je op moet letten, wat je moet vragen en wat je moet vermijden. De analyse van de afgelopen 20 jaar die de rechtszaken rond sociale media ons bieden, kan ons de juiste richting wijzen en ons op een pad zetten waarop we over 20 jaar niet hoeven te zeggen: ‘had ik dit zien aankomen’.
