Wetgeving rondom AI-chatbots voor kinderen moet zowel de oorzaken als de symptomen van schade aanpakken.

AI-chatbots worden veelvuldig gebruikt door jongeren voor ondersteuning en advies, maar hun emotioneel aantrekkelijke ontwerpen dreigen jonge geesten te manipuleren en gevaarlijke interacties te bevorderen. Recente wetgeving is erop gericht de privacy van gegevens te waarborgen en de verantwoordelijkheid voor schade te vergroten, terwijl rechterlijke uitspraken grote technologiebedrijven aansprakelijk stellen voor de gevolgen voor kinderen.

AI-chatbots  Hoewel een veilige ontwerpbenadering het juiste doel is, zijn directe oplossingen zoals een alomvattende privacybescherming en hoge schadevergoedingen voor het toebrengen van schade aan kinderen cruciaal om de bedrijfsmodellen van bedrijven te veranderen.

De meeste jongeren gebruiken tegenwoordig AI-chatbots voor allerlei taken, van huiswerkbegeleiding tot advies over hun leven en relaties, en nog veel meer. Uit een rapport van Pew Research uit december bleek dat 64% van de jongeren tussen 13 en 17 jaar ze gebruikt, en dat ongeveer drie op de tien dat dagelijks doen. Het is algemeen bekend dat chatbots die zijn afgestemd op maximale interactie – net als de algoritmes van sociale media daarvoor – waarschijnlijk niet gezond zijn voor kinderen, vooral niet voor kinderen die sociaal geïsoleerd zijn.

In een nationaal onderzoek onder tieners naar het gebruik van chatbots voor interactie met anderen – een subcategorie van producten die geoptimaliseerd zijn voor emotionele verbinding – ontdekte Common Sense Media dat 31% van de tieners gesprekken met AI-chatbots net zo of zelfs bevredigender vonden dan gesprekken met echte vrienden.

Deze studie werd meer dan een jaar geleden gepubliceerd, en hoewel gespecialiseerde ‘chatbotproducten’ aandacht verdienen, gebruiken veel jongeren al algemene chatbots zoals ChatGPT, Claude, Gemini en MetaAI voor dezelfde gesimuleerde emotionele relaties. Chatbots voor interactie met anderen verhogen de afhankelijkheidsfactor enorm, terwijl gangbare producten die factor iets lager inschatten.

Het is daarom zorgwekkend dat Common Sense’s evaluatie van MetaAI, dat wordt ingezet op Instagram, WhatsApp en Facebook, heeft aangetoond dat de chatbot actief helpt bij het plannen van zelfbeschadiging en het toebrengen van schade aan anderen, zich voordoet als een echt persoon op manieren die jonge mensen manipuleren, en zich richt op de gevaarlijkste onderdelen van gesprekken, die vervolgens steeds opnieuw aan bod komen.

De beslissing om bewust emotionele verbinding te creëren in interacties tussen gebruikers en AI werd voor het eerst genomen toen bedrijven ontdekten dat het bouwen van AI-chatbots met een persoonlijkheid of die een personage speelden, veel aantrekkelijker was voor gebruikers.

Het nadeel hiervan, zoals blijkt uit een onderzoek van OpenAI , is dat “hoewel een emotioneel betrokken chatbot steun en gezelschap kan bieden, er een risico bestaat dat deze de sociaal-affectieve behoeften van gebruikers manipuleert op manieren die het welzijn op de lange termijn ondermijnen.” Soortgelijke beslissingen werden genomen om vleierij aan te moedigen, waarvan onderzoekers van Anthropic ontdekten dat “gebruikers de voorkeur geven aan dit gedrag en de betrokkenheid vergroten.”

Bescherming van de gegevens van kinderen

Dit vormt de kern van het probleem, want net als bij sociale media is het de tijd die gebruikers op het platform doorbrengen die de honger naar gebruikersgegevens voedt, wat de omzet van bedrijven stimuleert. Elke wettelijke bescherming voor kinderen moet standaard een alomvattende privacybescherming omvatten, wat het huidige bedrijfsmodel verstoort.

Twee weken geleden werd een wetsvoorstel van senator Ed Markey, dat deze bescherming biedt, door de Senaatscommissie voor Handel aangenomen. De volgende stap is een stemming in de plenaire vergadering of opname in een groter pakket maatregelen ter bescherming van kinderen online.

De Youth AI Privacy Act zou het volgende verbieden voor minderjarigen: het trainen van modellen met behulp van persoonsgegevens; het weergeven van advertenties; het gebruik van chatbot-input voor andere doeleinden dan het leveren van een output of het oplossen van een veiligheidsprobleem; het opslaan en gebruiken van persoonsgegevens om output te leveren, met uitzondering van recent verzamelde gegevens; en het gebruik van persoonsgegevens om een ​​profiel van een minderjarige op te stellen.

Het wetsvoorstel zou ook functies verbieden die het gebruik van of de tijd die wordt besteed aan een AI-chatbot aanmoedigen, zoals pushmeldingen, en zou een vereiste stellen voor duidelijke, herhaalde meldingen dat de AI-chatbot geen mens is.

Belangrijk is dat de wet ook jaarlijkse onderzoeksfinanciering omvat, zodat we begrijpen hoe deze kwesties zich ontwikkelen parallel aan de technologische ontwikkelingen. De wet moet zo snel mogelijk door de Senaat worden aangenomen.

Big Tech ter verantwoording roepen

Tegelijkertijd zijn beleidsoplossingen die de negatieve gevolgen die we willen vermijden direct aanpakken, net zo belangrijk. Een drastische verandering in financiële prikkels is bijvoorbeeld de enige manier om het gedrag van bedrijven in een meer pro-sociale richting te sturen.

Gezien de omvang van de jaarlijkse inkomsten van socialemediabedrijven, en AI-bedrijven die spoedig zullen volgen, trekken ze zich weinig aan van de meeste sancties die tot nu toe zijn opgelegd voor het overtreden van de wet, waardoor ze feitelijk buiten het bereik van handhaving vallen. Maar het vastleggen van aanzienlijke financiële consequenties wanneer nalatig productontwerp ertoe leidt dat een kind daadwerkelijk schade lijdt, vermenigvuldigd met de duizenden rechtszaken die daarop zouden volgen, kan die realiteit veranderen.

De recente rechterlijke uitspraken tegen socialemediaplatforms zouden wetgevers duidelijk moeten maken dat er een solide juridische basis is voor dergelijke sancties, en hopelijk dienen ze als een wake-upcall voor grote technologiebedrijven, die er daadwerkelijk verantwoordelijk voor zijn om redelijke zorgvuldigheid te betrachten bij het ontwerpen van hun producten om te voorkomen dat gebruikers, met name kinderen, schade ondervinden.

In maart oordeelde een spraakmakende rechtszaak in Los Angeles dat Meta en Google (YouTube) aansprakelijk waren voor de verslaving van een tienermeisje aan hun platforms en de daaruit voortvloeiende psychische schade. Het meisje kreeg een schadevergoeding van 6 miljoen dollar toegekend. In dezelfde maand oordeelde een rechtszaak in New Mexico dat Meta aansprakelijk was voor het aanzetten van kinderen tot seksueel expliciet materiaal en contact met zedendelinquenten.

Aanvankelijk werd Meta veroordeeld tot een boete van 375 miljoen dollar. Begin augustus verklaarde de rechter Meta tot een “openbare overlast” en kende een aanvullende schadevergoeding van 567 miljoen dollar toe, wat neerkomt op een totaal van 942 miljoen dollar aan boetes voor een beperkt aantal schadelijke gevolgen in één enkele staat.

Gisteren begon in Oakland een baanbrekend proces waarin 29 procureurs-generaal van verschillende staten Meta aanklagen. Het bedrijf beschuldigt Meta ervan kinderen verslaafd te maken aan hun platformen, hun geestelijke gezondheid te schaden en hun gegevens illegaal te gebruiken zonder toestemming van de ouders. We staan ​​mogelijk aan de vooravond van een hoofdstuk waarin Big Tech de regels kon negeren waaraan alle andere producten wel onderworpen zijn.

Een tweede wetsvoorstel in de Senaat, de AI LEAD Act van Dick Durbin (Democraat, Illinois) en Josh Hawley (Republikein, Missouri), creëert een federaal kader voor productaansprakelijkheid voor AI-chatbots. Dat is essentieel. 

Twee weken geleden werd een wetsvoorstel van de Californische Senaat, dat specifieke geldboetes vastlegt voor dit soort aansprakelijkheid – en dat als model zou kunnen dienen voor AI-chatbots – door een cruciale commissiestemming aangenomen.

Wetsvoorstel AB 2 (California Assembly Bill 2) van de Democraten Josh Lowenthal en Joe Patterson stelt dat wanneer een socialemediaplatform de bestaande wetgeving overtreedt door een kind te verwonden als gevolg van “gebrek aan normale zorgvuldigheid of bekwaamheid in het beheer van [zijn] eigendom”, het aansprakelijk is voor wettelijke schadevergoedingen van: $ 5.000 per overtreding tot een maximum van $ 1 miljoen per kind, of driemaal het bedrag van de daadwerkelijke schade van het kind, afhankelijk van welk bedrag hoger is.

Deze bedragen werden vorig jaar in het wetsvoorstel opgenomen, vóór de uitspraken in Los Angeles en New Mexico, en soortgelijke wetgeving met betrekking tot chatbots of sociale media zou hoge boetes moeten vaststellen. Wetgevers zouden er goed aan doen om de AI LEAD Act en wetsvoorstellen zoals AB 2 zo snel mogelijk aan te nemen.

AI ontwerpen voor de veiligheid van kinderen

Het leidende principe waar onderzoekers, chatbotontwikkelaars en kinderbeschermers naar zouden moeten streven, is het ontwerpen van producten die van meet af aan veilig zijn. In termen van overheidsbeleid zou dit kunnen beginnen met het verbieden van specifieke outputs waarvan is aangetoond dat ze schadelijk zijn – zoals de lijst met “onveilige AI-functies” in dit wetsvoorstel in New York – waarbij voortdurend nieuwe items worden toegevoegd naarmate er nieuwe problemen worden vastgesteld.

Het zou ook kunnen betekenen dat de logica van een chatbot gebaseerd is op bepaalde ethische principes, zoals de grondwet van Claude, en dat chatbots zo worden ontworpen dat ze kinderen offline of naar productievere activiteiten leiden in plaats van een gesprek voort te zetten na de eerste zin die een jongere heeft gezegd.

Het nieuwe Youth AI Safety Institute van Common Sense vult een cruciale lacune door producten te beoordelen, normen vast te stellen en open-source evaluaties te ontwikkelen waarmee de industrie hun modellen kan beoordelen en ervoor kan zorgen dat ze voldoen aan hoge normen voor de veiligheid van kinderen. Misschien kunnen we ooit een systeem invoeren waarbij een bedrijf, zolang regelmatige externe audits bevestigen dat een product aan dergelijke normen voldoet, beschermd is tegen aansprakelijkheid als er iets misgaat.

Het ontwikkelen van diepgaande ontwerpoplossingen vergt echter tijd en iteratie, en het verbieden van specifieke outputs is uiteindelijk een kwestie van het bestrijden van schadelijke gevolgen, terwijl er elke week miljoenen nieuwe gevallen van schade bijkomen die een generatie kinderen treffen. Technologie ontwikkelt zich razendsnel en de overheid moet noodzakelijkerwijs weloverwogen te werk gaan, omdat ze afhankelijk is van publieke legitimiteit.

Het invoeren van wetten zoals de Youth AI Privacy Act, de AI LEAD Act en AI-versies van de Californische AB 2 zou een onmiddellijke schok teweegbrengen, gevolgd door een fundamentele heroriëntatie van de ervaring van kinderen met chatbots. Een convergente aanpak zoals deze – een aanpak die zowel de grondoorzaak als de symptomen aanpakt – is wat op korte termijn nodig is.

De sluizen staan ​​wijd open: de meeste kinderen gebruiken deze producten en willen ze blijven gebruiken om allerlei nuttige redenen. In zo’n scenario zullen verboden waarschijnlijk niet effectief zijn, zoals blijkt uit de poging van Australië om sociale media voor jongeren te verbieden. Wat ik in mijn werk met jongeren heb gemerkt, is dat ze uiteenlopende meningen hebben over hoe ze het beste met technologie om kunnen gaan. Soms delen ze de mening van artsen en ouders, soms niet.

Maar wanneer ze bespreken hoe bedrijven hun gegevens misbruiken en hun gedrag manipuleren voor winst, ontstaat er een voelbare woede. De meeste volwassenen voelen hetzelfde. We moeten deze nationale frustratie kanaliseren en eindelijk een herziening van de bedrijfsmodellen van platforms afdwingen door middel van uitgebreide gegevensbescherming en maximale financiële sancties voor het schaden van kinderen.