Voormalig Google-topman waarschuwt dat AI vreselijke schade kan toebrengen aan minderjarigen, zelfs erger dan sociale media.

“We bevinden ons in een werkelijk verschrikkelijke situatie wat betreft de gevolgen van AI voor kinderen.”

Vergeet moordende robots en sciencefiction-doomsdayscenario’s. Een voormalig topman van Google zegt dat we de ontwikkeling van AI nu moeten afremmen, omdat de technologie kinderen nu al op een schaal schaadt die de schade van sociale media overtreft.

“We bevinden ons in een ronduit verschrikkelijke situatie wat betreft de impact van AI op kinderen”, vertelde Tom Siegel, voormalig vicepresident van vertrouwen en veiligheid bij Google, aan Reuters . “Het idee dat de industrie dit zelf wel zal oplossen zonder hulp van buitenaf is onrealistisch.”

Siegel zegt dat grote AI-bedrijven hun functionaliteiten op de markt brengen zonder voldoende robuuste waarborgen in te bouwen. Dinsdag kondigde hij aan dat hij zich had aangesloten bij Common Sense Media, een online belangenorganisatie voor kinderen, en de eerste uitvoerend directeur is geworden van het onlangs opgerichte Youth AI Safety Institute. Het is vermeldenswaard dat Anthropic en de OpenAI Foundation de non-profitorganisatie onder andere steunen.

AI-bedrijven liggen onder vuur vanwege hun rol in zogenaamde AI-psychose , gevallen waarin een AI waanideeën bij gebruikers opwekt en aanwakkert. Talrijke rechtszaken beweren dat een oudere versie van ChatGPT, aangedreven door GPT-4o, gebruikers zelfs tot zelfmoord heeft gedreven. 

Veel van deze gevallen betreffen tieners en jongvolwassenen. Vorig jaar pleegde de 16-jarige Adam Raine zelfmoord nadat hij maandenlang uitgebreid met ChatGPT over specifieke zelfmoordmethoden had gesproken, zo beweerde zijn familie in een rechtszaak tegen OpenAI . Chatlogs toonden aan dat Raine zijn zelfmoordgedachten vaak met de chatbot deelde, en de chatbot fungeerde op zijn beurt als vertrouwenspersoon en troostte hem toen hij zei dat hij zich verdrietig voelde omdat zijn ouders geen touwafdruk van een ophangpoging hadden opgemerkt. Hij stierf door ophanging volgens een methode die de kunstmatige intelligentie in gedetailleerde gesprekken met Raine had besproken.

Ondertussen beschouwen veel tieners AI-metgezellen als vrienden en zelfs als romantische partners. En docenten zijn ontmoedigd door de cognitieve ontlasting die chatbots veroorzaken, omdat leerlingen zich steeds vaker tot AI-chatbots wenden om vragen te beantwoorden en hun huiswerk te maken in plaats van zelf na te denken over opdrachten. Onderzoek heeft het gebruik van AI-tools in verband gebracht met geheugenverlies en verminderde kritische denkvaardigheden. Een studie toonde aan dat AI leidt tot een lagere hersenactiviteit tijdens cognitieve taken zoals het schrijven van een essay.

“Ik denk dat we te maken hebben met zeer, zeer ernstige scenario’s waarin schade wordt aangericht,” vertelde Siegel aan Reuters .

Een woordvoerder van Google reageerde door te stellen dat de AI-functies van Google juist geweldig zijn voor de cognitieve ontwikkeling van minderjarigen.

“Onze AI-zoekfuncties zijn een ongelooflijk handige manier voor kinderen en tieners om te leren, te ontdekken en informatie en de wereld te begrijpen”, vertelde de woordvoerder aan Reuters .

Een woordvoerder van OpenAI uitte meer bezorgdheid en legde uit dat het bedrijf “account- en gedragssignalen” en zelfgerapporteerde leeftijden gebruikt om minderjarige gebruikers te detecteren. “Hoewel geen enkele methode voor leeftijdsverificatie perfect is, testen en verbeteren we deze systemen continu, ook tegen pogingen om de beveiligingsmaatregelen te omzeilen”, voegden ze eraan toe.

Veiligheidstips voor ouders over kunstmatige intelligentie

Lees meer over inhoud en hulpmiddelen op het gebied van kunstmatige intelligentie (AI) en ontdek manieren om de veiligheid van uw kinderen te waarborgen.

Door AI gegenereerde content en AI-tools zoals chatbots, contentgeneratoren en samenvattingstools duiken snel op in populaire online apps en diensten. Ook verschijnen er steeds meer populaire AI-tools zoals ChatGPT.

Het gebruik van kunstmatige intelligentie kan veel voordelen bieden bij het vinden van informatie, het maken van creatieve content en het snel verkrijgen van ondersteuning via chatfuncties. Net als bij andere vormen van online gebruik, brengt het echter ook risico’s met zich mee voor kinderen.

Zo kan de inhoud die kinderen te zien krijgen bijvoorbeeld niet geschikt zijn voor hun leeftijd, niet legaal zijn of gezond gedrag bevorderen. Ze kunnen ook te maken krijgen met schadelijke situaties zoals pesten en seksueel misbruik door AI-contentgeneratoren die worden gebruikt om realistisch ogende content te creëren die bedoeld is om schade aan te richten.

Wat zijn AI-tools en door kunstmatige intelligentie gegenereerde content?

AI-gegenereerde inhoud

Dit is een voorbeeld van een afbeelding, video of geluidsopname die is gemaakt met behulp van een online generator. Deze kunnen volledig kunstmatig zijn, wat betekent dat niets van de inhoud echt is, of het kunnen bewerkte versies zijn van bestaande, echte content.

AI-contentgeneratoren

Dit zijn de tools die worden gebruikt om door AI gegenereerde content te creëren door een reeks commando’s in te voeren om nieuwe content te genereren of een bestaande afbeelding of video te bewerken.

AI-chatbots

Dit zijn chatfuncties waarbij je met een bot praat in plaats van met een echt persoon. Ze reageren vaak alleen op korte berichten en stellen zich meestal voor als een bot. Bots kunnen echter wel menselijke namen hebben.

AI-samenvattingen

Dit is waar een platform informatie verzamelt en samenvat, meestal bovenaan een pagina of in de zoekresultaten. De AI haalt vaak informatie uit verschillende bronnen en vermeldt deze bronnen in de samenvatting.

6 toptips: hoe je je kinderen kunt helpen veilig met AI om te gaan

1) Bespreek waar kunstmatige intelligentie wordt gebruikt.

Een goede eerste stap is een open gesprek met je kind over waar ze online AI-tools en -content tegenkomen. Dit is een gelegenheid om te praten over de risico’s en voordelen die ze ervaren.

2) Herinner jongeren eraan dat niet alles echt is.

Je kunt ze eraan herinneren dat niet alles online echt is en dat veel van wat we zien bewerkt kan zijn.

AI is voortdurend in ontwikkeling, maar er zijn wel algemene kenmerken waaraan je kunt zien dat iets door AI is gegenereerd. Houd er echter rekening mee dat dit niet altijd even duidelijk is. Enkele van deze kenmerken kunnen een algeheel ‘perfect’ uiterlijk zijn, of lichaamsdelen of bewegingen die er anders uitzien of niet ‘levensecht’ lijken.

3) Bespreek het misbruik van generatieve kunstmatige intelligentie

Het is belangrijk om het misbruik van generatieve AI voor het creëren van schadelijke content op een leeftijdsgeschikte manier aan te pakken. Zorg ervoor dat uw kind weet dat het niet oké is dat iemand content maakt die anderen schade berokkent.

Als ze dit ooit meemaken of zich zorgen maken dat iemand dit doet, kunnen ze het melden. Als u zich zorgen maakt over hoe iemand zich online tegenover een kind gedraagt, kunt u dit melden bij de politie.

Als er een afbeelding of video met seksuele inhoud is gemaakt, kunt u dit melden via ‘Offlimits (voorheen Meldpunt Kinderporno)’ .

4) Herinner hen eraan om bronnen te controleren

AI-samenvattingen en chatbots kunnen handige hulpmiddelen zijn om snel antwoord te krijgen op een vraag, maar het is belangrijk om te weten dat de informatie van een betrouwbare bron afkomstig is.

Bronnen moeten worden vermeld en bevatten vaak links zodat ze gecontroleerd kunnen worden. Als een bron niet vermeld staat of niet betrouwbaar is, is het goed om mensen aan te moedigen zelf een betrouwbare website te raadplegen.

5) Verwijs naar betrouwbare bronnen voor advies over gezondheid en welzijn.

We weten dat jongeren het internet gebruiken om advies en antwoorden op vragen te vinden, wat kan betekenen dat ze advies van een AI-bot of een samenvatting tegenkomen. Het is belangrijk dat ze toegang hebben tot veilige informatie van betrouwbare bronnen, dus het kan nuttig zijn om ervoor te zorgen dat ze op de hoogte zijn van kindvriendelijke en veilige websites.

6) Zorg ervoor dat ze weten waar ze terecht kunnen voor hulp.

Zorg ervoor dat uw kind weet dat het met u of een andere volwassene, zoals een leerkracht, kan praten als het zich ergens zorgen over maakt, online of offline. Ze kunnen ook 24/7 contact opnemen met Childline via 0800 11 11, per e-mail of via de online chat. Er zijn veel manieren waarop ze ondersteuning kunnen krijgen .