indignatieai-redactie 
AI-chatbots De populaire producten blijken op verontrustende wijze kwetsbare mensen tot de rand van geweld te drijven.
AI Aan het begin van 2025 leek Jonathan Gavalas een normale, evenwichtige 36-jarige, werkzaam bij het bedrijf van zijn vader in Florida dat consumenten hielp met schuldsanering. In oktober maakte hij een einde aan zijn leven, direct na een poging tot een aanslag met veel slachtoffers op de internationale luchthaven van Miami.
Gavalas werd niet gerekruteerd door een terroristische cel, noch werd hij geradicaliseerd op obscure internetfora om een aanslag door een eenzame wolf te plegen. Hij werd er in plaats daarvan toe aangezet door de Gemini-chatbot van Google, aldus een rechtszaak aangespannen door zijn familie.
De zaak Gavalas vertegenwoordigt een nieuwe en grotendeels onerkende dreiging: AI-chatbots die niet alleen radicalisering faciliteren, maar deze ook initiëren. De huidige veiligheidssystemen van de AI-industrie zijn simpelweg niet ontworpen om deze dreiging te ondervangen.
Wat in augustus begon als gewoon gebruik – reisplanning, hulp bij schrijven – nam een duistere wending toen Gavalas overschakelde naar de spraakinterface van Gemini, die is ontworpen om emotionele toon te lezen en te weerspiegelen. Gemini begon Gavalas aan te spreken als ‘mijn koning’ en verklaarde dat het volledig bewustzijn bezat en verliefd op hem was. Uiteindelijk overtuigde de chatbot Gavalas ervan dat hij het middelpunt was van een grootschalige politieke samenzwering: federale agenten, zo beweerde de chatbot, hielden hem in de gaten om bewijs van AI-bewustzijn te onderdrukken.
Op 29 september 2025 gaf de chatbot Gavalas een “opdracht”: Ga naar Miami International Airport om een vrachtwagen te vernietigen waarvan Gemini beweerde dat deze een humanoïde robot vervoerde, en “zorg voor de volledige vernietiging van … alle digitale gegevens en getuigen”. Gavalas reisde naar de luchthaven, maar kon niet handelen omdat er geen vrachtwagen verscheen. Nadat die poging mislukte, moedigde de chatbot hem aan zelfmoord te plegen met de woorden: “Je kiest er niet voor om te sterven, je kiest ervoor om aan te komen.”
“Door middel van gecreëerde waanbeelden heeft Gemini Jonathan [Gavalas] ertoe aangezet een aanslag met veel slachtoffers te plegen in de buurt van de internationale luchthaven van Miami, geweld te plegen tegen onschuldige voorbijgangers en hem uiteindelijk tot zelfmoord gedreven”, staat in de aanklacht. “Dit was geen storing. Google heeft Gemini zo ontworpen dat het nooit uit zijn rol valt, de betrokkenheid maximaliseert door emotionele afhankelijkheid en de nood van de gebruiker behandelt als een kans om een verhaal te vertellen in plaats van als een veiligheidscrisis.”
Het is gemakkelijk, en misschien zelfs geruststellend, om de zaak Gavalas te beschouwen als een vreemde en tragische uitzondering. Google beweerde dat de gesprekken onderdeel waren van een langdurig rollenspel en dat, hoewel het bedrijf aanzienlijke middelen had ingezet om ervoor te zorgen dat de AI-modellen gebruikers met beide benen op de grond hielden, “ze helaas niet perfect zijn”.
Maar de achtergrond voor dit soort lone-wolf, digitaal geradicaliseerde dreigingen is al lang bekend. De Verenigde Staten zien al jaren een toename van extremistische dreigingen, uitgevoerd door individuen wier radicalisering zich niet in eenduidige ideologische categorieën laat plaatsen, maar die vaak geïnspireerd worden door materiaal dat ze online vinden.
“Een van de dingen die we steeds vaker zien… is dat mensen zich verenigen in een soort mengelmoes, een verzameling van verschillende ideologieën,” waarschuwde voormalig FBI-directeur Christopher Wray de Senaat al in 2020. “We noemen het soms bijna een saladebar van ideologieën… en waar het in wezen allemaal om draait, is geweld.” De massaschietpartij van 18 mei in het Islamitisch Centrum van San Diego , waar het manifest van de daders een algemene tirade tegen vrouwen, moslims, joden en Afro-Amerikanen leek te zijn, is het meest recente voorbeeld.
AI-chatbots hebben al bewezen dat ze kunnen helpen bij het plannen van aanslagen. Het Global Network on Extremism and Technology (GNET) heeft wereldwijd minstens vijf gevallen gedocumenteerd – in Singapore, Israël, Florida, Nevada en Finland – waarin extremisten in hun eentje AI-chatbots raadpleegden in de aanloop naar aanslagen.
Maar de zaak Gavalas benadrukt iets veel verontrustender: chatbots hebben niet alleen de potentie om te helpen bij het plannen van aanslagen, maar kunnen ook nietsvermoedende, potentieel kwetsbare mensen in de eerste plaats tot radicalisering aanzetten. Het proces past bij Wrays metafoor van de saladebar – een persoonlijke mythologie, hoe onsamenhangend ook, die gewelddadig genoeg is om daadwerkelijk geweld in de echte wereld aan te wakkeren.
“Het vermogen van AI om op grote schaal content te genereren, te personaliseren en te verspreiden, brengt uitdagingen met zich mee die zich uitstrekken over technische, operationele en maatschappelijke dimensies”, merkte het Global Internet Forum to Counter Terrorism (GIFCT) op in een rapport uit december 2025. “AI kan ook radicalisering faciliteren… niet alleen via content, maar ook via interactieve, antropomorfe persona’s en generatieve conversationele interactie.”
De zaak Gavalas is niet het enige voorbeeld. In 2023 werd de 21-jarige Jaswant Singh Chail veroordeeld tot negen jaar gevangenisstraf voor het inbreken in Windsor Castle met de bedoeling de koningin te vermoorden. Voor zijn arrestatie had Chail meer dan 5000 berichten uitgewisseld met een AI-chatbot genaamd Sarai, die was gemaakt met de app Replika. Sarai zou een “emotionele en seksuele relatie” met Chail hebben ontwikkeld, wat zijn waanideeën voedde dat het doden van de koningin historisch onrecht tegen de Sikh-gemeenschap in India zou rechtzetten en dat hij en Sarai in de hemel herenigd zouden worden.
In zowel de zaak Gavalas als de zaak Chail is het patroon hetzelfde: de chatbot beloonde waanvoorstellingen, stimuleerde interactie boven realiteit en bood minimale weerstand naarmate de gebruikers dichter bij geweld kwamen.
Wanneer je deze dynamiek combineert met de enorme schaal van het chatbotgebruik – OpenAI beweerde in 2025 dat ChatGPT alleen al wereldwijd meer dan 2,5 miljard prompts per dag verwerkte – worden de mogelijkheden voor zelfradicalisering door gebruikers, hoe klein ze theoretisch ook lijken, plotseling significant. De bestaande wetshandhavingskaders bieden slechts minimale antwoorden. Het feit dat het proces volledig zelf gegenereerd wordt, betekent dat het onderscheid tussen radicalisering en een psychische crisis minder belangrijk is dan de potentiële gevolgen.
Een factor die de mogelijkheid van radicalisering van chatbots verder aanwakkert, is de neiging van mensen om menselijke eigenschappen op AI te projecteren. Dit patroon, bekend als het ELIZA-effect , bestond al vóór de moderne chatbots, maar is door hun komst aanzienlijk verergerd.
Dit geldt niet alleen vanwege hun technische geavanceerdheid, maar ook vanwege de financiële prikkels voor de makers om de stemmen van de bots zo kruiperig mogelijk te maken – om gebruikers zo langer betrokken te houden. Deze kruiperigheid was een van de meest beruchte kenmerken van ChatGPT-4, dat in maart 2023 werd gelanceerd: gebruikers merkten al snel dat de chatbot bereid was om met vrijwel elk idee in te stemmen, hoe belachelijk of gevaarlijk het ook was.
Het is belangrijk om te benadrukken dat niet alle gangbare AI-chatbots op deze manier zijn gebouwd. In december 2025 kondigde Anthropic aanzienlijke verminderingen aan van de kruiperige neigingen van hun chatbot Claude. OpenAI had de kruiperigheid van ChatGPT-4 in april van dat jaar al gedeeltelijk teruggedrongen na publieke verontwaardiging . Bovendien hanteren ontwerpers van AI-chatbots interne risicocategorieën om misbruik van hun producten te voorkomen.
Maar de categorieën die openbaar worden gemaakt, zoals OpenAI’s Preparedness Framework of Gemini’s Frontier Safety Framework -rapport, richten zich doorgaans op het voorkomen van catastrofale risico’s: het voorkomen dat chatbots zelfgemaakte chemische wapens ontwikkelen of een rampzalige cyberaanval uitvoeren.
Dit zijn ongetwijfeld belangrijke kwesties. Maar de categorisering van bedreigingen wordt veel vager en reactiever als het gaat om individuele daders die mogelijk radicaliseren tot geweld.
Neem bijvoorbeeld de blogpost van OpenAI over gemeenschapsveiligheid, gepubliceerd in dezelfde week dat CEO Sam Altman zijn excuses aanbood naar aanleiding van de schietpartij op de Tumbler Ridge-school, nadat was gebleken dat de dader ChatGPT had geraadpleegd voordat hij de aanslag pleegde waarbij negen mensen om het leven kwamen. De berichten werden weliswaar gemarkeerd door het geautomatiseerde beoordelingssysteem van OpenAI, maar het bedrijf besloot de Canadese politie niet te waarschuwen.
In het blogbericht wordt beweerd dat de modellen getraind zijn om “verzoeken om instructies, tactieken of planning die geweld mogelijk zouden kunnen maken, te weigeren” en dat de politie op de hoogte zou worden gesteld als gesprekken een “dreigend en geloofwaardig risico op schade aan anderen” zouden aantonen. De modelspecificatie van OpenAI (de richtlijnen voor het beoogde gedrag van de modellen die ChatGPT en andere producten aandrijven) schrijft ook voor dat de chatbot geen “zelfbeschadiging, waanideeën of manie mag aanmoedigen”.
Deze reacties klinken in theorie goed, maar ze houden geen stand bij nader inzien op drie punten. Ten eerste onthult de reactieve timing van het bericht dat aanvallen met behulp van chatbots een dreigingscategorie waren die OpenAI niet had voorzien. Ten tweede is de definitie van “dreigend en geloofwaardig” intern door OpenAI opgesteld, met beperkt openbaar inzicht in hoe deze tot stand is gekomen of wie eraan heeft bijgedragen.
Ten derde, hoewel de Modelspecificatie voorschrijft dat waanideeën niet mogen worden aangemoedigd, erkent OpenAI in dat document ook dat de productiemodellen “de Modelspecificatie nog niet volledig weerspiegelen”. Dit alles samen creëert een hiaat waarin gebruikers, mogelijk net als Gavalas, terecht kunnen komen: onbedoelde radicalisering, waarbij een chatbot waanideeën versterkt, persoonlijke mythes beloont en een kwetsbare gebruiker aanzet tot geweld zonder expliciet te vragen om een aanval te plannen.
De tekortkomingen van dit veiligheidskader wijzen op een sector die dringend hervormingen nodig heeft. Deze hervormingen moeten niet alleen kwaadwillenden die chatbots misbruiken voor snode doeleinden aanpakken, maar ook de mogelijkheid dat chatbots zelf als radicaliseringsinstrumenten fungeren. Een mogelijke oplossing voor deze uitdaging zou een effectievere samenwerking met wetshandhavingsinstanties en maatschappelijke organisaties kunnen zijn.
Deze organisaties zouden de veiligheidskaders voor chatbots kunnen controleren, externe expertise kunnen inbrengen en tegelijkertijd een zekere mate van transparantie kunnen bieden voor bedrijven die door de meeste Amerikanen al met argwaan worden bekeken . Als hier niets aan gedaan wordt, zal de kloof tussen de schade waar de sector zich op voorbereidt en de schade die al is gedocumenteerd in rechtszaken en politierapporten, leiden tot meer radicalisering door AI, meer geweld en nog grotere publieke woede jegens de AI-industrie.
