indignatieai-redactie 
Trumps afschuwelijke oorlog in Iran heeft al aangetoond dat kunstmatige intelligentie medeplichtig kan zijn aan massamoord, en als we niets doen, zal het opnieuw doden.
Trump Ik voel me verplicht mijn excuses aan te bieden voor een column van een paar maanden geleden, waarin ik de huidige president van de Verenigde Staten vergeleek met Caligula, de mogelijk krankzinnige Romeinse keizer die naar verluidt zijn trouwe paard voor een hoge functie benoemde.
Ik moet mijn excuses aanbieden aan Caligula. Van het aanprijzen van zijn triomfboog in Washington D.C. als een opslagplaats voor kogels van dodelijke sluipschutters tot het in een narcistische vlaag verbannen van journalisten uit het Witte Huis , Donald Trump verliest de grip op de realiteit. Dit is onhoudbaar.
Bezorgd dat AI mensen zal doden? Slecht nieuws: dat gebeurt al.
Welke is het?
Zijn de robots van AI, ofwel kunstmatige intelligentie , zo slim dat ze op het punt staan een geheime bijeenkomst te houden in de donkerste uithoek van het dark web om een complot te smeden om alle mensen uit te roeien door middel van biologische oorlogvoering, om er zeker van te zijn dat wij hen niet eerst doden door de stekker eruit te trekken?
Of is AI zo dom – kunstmatige domheid, ondanks dat de miljardairs van Silicon Valley dagelijks op onze tv-schermen verschijnen om te pochen over het torenhoge IQ van hun zoon, Claude – dat hetgeen ons zal doden een waanzinnige hallucinatie is die een vals alarm in een Derde Wereldoorlog zal veranderen?
Het feit dat we hier geen antwoord op hebben, zou ons aan het denken moeten zetten, maar misschien stellen we wel niet de juiste vraag. Misschien is het echte probleem wel hoe gemakkelijk we het hebben gemaakt om de mensheid uit te roeien – een mogelijkheid die al bestond voordat we de computer uitvonden.
Eén ding is zeker. Kunstmatige intelligentie is al medeplichtig geweest aan massamoord, en als we niets doen, zal ze opnieuw toeslaan.
Herinnert u zich de allereerste dagen van de nu schijnbaar eindeloze oorlog met Iran, en het nieuws dat twee raketaanvallen een school voor jonge kinderen in de Iraanse kuststad Minab hadden verwoest, in een ogenschijnlijk “dubbele aanval” waarbij de tweede aanval vanuit de lucht jonge meisjes en jongens en hun leraren doodde terwijl ze zich in een gebedsruimte schuilhielden?
Die bombardementen, waarbij op 28 februari 156 mensen om het leven kwamen, brachten de Onafhankelijke Internationale Feitenonderzoeksmissie van de Verenigde Naties naar Iran ertoe vorige week te rapporteren dat er “redelijke gronden zijn om aan te nemen dat de Verenigde Staten een oorlogsmisdaad hebben begaan door willekeurige aanvallen uit te voeren…”. De Amerikaanse regering heeft nooit de verantwoordelijkheid voor het bloedvergieten opgeëist, ondanks overweldigend visueel bewijs dat de bommen precisiegeleide Amerikaanse Tomahawk-raketten waren.
Het duurde niet lang voordat er verdere speculaties ontstonden dat een AI-programma de school per ongeluk als doelwit had gekozen, mogelijk gebruikmakend van verouderde kaarten en informatie uit een eerdere periode waarin de gebouwen deel uitmaakten van een Iraans militair complex. Het Pentagon schept immers openlijk op over de dood en verwoesting die mogelijk zijn gemaakt door het gebruik van Palantir’s Smart Maven System en Anthropic’s Claude.
Vorige week meldde Bloomberg News dat de overmatige afhankelijkheid van het Pentagon van AI, en met name het Palantir Maven-programma, een belangrijke factor was in de tragedie op de school, samen met de verouderde inlichtingen over de Minab-site – de zogenaamde “garbage in”. In hun artikel werd opgemerkt dat Amerikaanse militaire planners in de beginfase van de oorlog zo’n 1000 Iraanse doelwitten probeerden te identificeren, waardoor mensen nauwelijks tijd hadden om de lijst te controleren. Kleuters werden hierdoor afgeslacht.
Dit was zeker niet de eerste keer dat robots in verband werden gebracht met de dood van mensen, zowel in oorlogstijd – in 2024 meldde +924 Magazine dat de Israëlische defensiemacht een AI-programma met de codenaam “Lavender” gebruikte om doelen aan te vallen tijdens de massamoord in Gaza – als in vredestijd, zoals blijkt uit talloze berichten over robots die mensen met problemen hielpen zelfmoord te plegen.
En toch had het veel, veel erger kunnen zijn. Tegelijkertijd met het Bloomberg-rapport over de link tussen AI en de massamoord in Iran, kwam de wereld er ook achter dat een vals bericht, gegenereerd door een robot, bijna een conflict tussen de Verenigde Staten en China had veroorzaakt dat mogelijk tot een grootschalige veldslag had kunnen escaleren.
CNN en andere media hebben bericht dat een analist van het Amerikaanse commando voor speciale operaties, in samenwerking met AI, een urgent rapport heeft gegenereerd waarin stond dat een Chinees schip op weg naar het Midden-Oosten onderdelen voor een nucleair wapensysteem vervoerde . Dit leidde ertoe dat militaire leiders straaljagers de lucht in stuurden en een team samenstelden om het schip in beslag te nemen.
Pas op het allerlaatste moment ging het Pentagon dieper graven en ontdekte dat het door AI gegenereerde rapport volledig onjuist was, een hallucinatie – een die bijna een gewelddadig conflict tussen de twee grootste militaire machten ter wereld had veroorzaakt.
De twee verontrustende berichten over het gebruik, of misbruik, van AI door het Amerikaanse leger in oorlogstijd haalden weliswaar het nieuws, maar kregen lang niet zoveel aandacht – noch in de media, noch op sites als Bluesky of X – als de waarschuwingen van zowel klokkenluiders als CEO’s in Silicon Valley dat een zwerm robots op eigen houtje en zonder enige menselijke tussenkomst of medeweten zou kunnen besluiten om onze zogenaamde beschaving te proberen uit te roeien.
De angst voor een ongevraagde aanval door AI-geheimagenten is reëel, gebaseerd op verschillende incidenten die zich al hebben voorgedaan, waaronder een goed geplande en deels succesvolle operatie van de robotagenten van OpenAI om in te breken bij het bedrijf Hugging Face.
Toch zegt het iets over de menselijke intelligentie dat we gefascineerd zijn door de onbekende en mysterieuze mogelijkheid van een willekeurige aanval, terwijl het feit dat mensen momenteel AI misbruiken om dood en lijden te veroorzaken een minder boeiend verhaal is. Ik merkte vorige week al op dat de dreiging voor de mensheid van klimaatverandering wellicht nog reëler is – en toch wordt dit door velen ontkend en door anderen genegeerd.
Het valt me ook op, als babyboomer geboren in 1959, dat een generatie die geboren is in een tijd van constante angst – schuilkelders in de achtertuin, ‘duik en dek je’-oefeningen in de klas en sciencefictionhorrorfilms in de bioscoop die ons elk moment konden vernietigen door een nucleaire wapenwedloop – plotseling weer terug is bij af.
In meer dan 81 jaar tijd waren mensen slim genoeg om na de massamoorden in Hiroshima en Nagasaki nooit meer een kernwapen te laten vallen (althans niet opzettelijk) , maar niet slim genoeg om te bedenken hoe de nucleaire dreiging volledig te elimineren.
Het feit dat de beschaving erin is geslaagd om het aantal wereldoorlogen tot nu toe te beperken tot twee, heeft ons de ruimte en de valse bravoure gegeven om nieuwe en veel verraderlijkere moordmachines te creëren. De dreiging van onzichtbare robots op een verborgen dark web is op de een of andere manier zelfs angstaanjagender dan de radioactieve paddenstoelwolk die we min of meer begrijpen.
Babyboomers die als kind in de jaren ’50 en ’60 in slaap vielen met de hoop dat ze niet zouden sterven voordat ze wakker werden, brengen nu hun jaren met pensioen door in angst dat er iets vreemders dan sciencefiction op hun kinderen of kleinkinderen afkomt. Gedurende een heel leven is de boog van dat morele universum geen millimeter afgebogen.
Toch zijn mensen er tot nu toe op de een of andere manier in geslaagd een nucleaire vernietiging te voorkomen, en het is nu hoog tijd om aan de slag te gaan met de daadwerkelijke dreigingen van AI en te beginnen met het ontwikkelen van alternatieven. Zo wordt in de artikelen die ik heb gelezen over hoe robots van plan zijn ons te doden, vaak de mogelijkheid genoemd dat AI-agenten biologische wapens ontwikkelen en deze loslaten, hetzij op eigen initiatief, hetzij in opdracht van een kwaadwillende partij. (In theorie is de ontwikkeling van biologische wapens door mensen al een halve eeuw verboden.)
Uit alles wat ik tot nu toe over AI heb gelezen, lijkt het erop dat we meer succes zouden hebben met het beveiligen of elimineren van de componenten die een biologisch agens zouden kunnen vormen, dan met het stoppen van de robots zelf. Evenzo zouden AI-agenten geen nucleaire apocalyps kunnen veroorzaken als onze menselijke politici zich eindelijk zouden inzetten voor de uitfasering van kernwapens. Kunstmatige intelligentie zal geen kleine meisjes op een Iraanse school vermoorden als mensen in de eerste plaats geen zinloze oorlogen beginnen.
Als de doemdenkers van Silicon Valley het menen, is geen enkele oplossing te groot of te ambitieus. Maar besef wel dat het grootste probleem niet is dat AI ons wil vermoorden, maar dat wij mensen sinds 1942 bezig zijn geweest met het creëren van alle zelfmoordwapens die AI-agenten zouden kunnen gebruiken.
Kun je überhaupt “duiken en dekking zoeken” voor een moordende robot? Ik ben niet van plan om dat uit te zoeken, en ik wil niet dat mijn nog ongeboren kleinkinderen er zelfs maar over hoeven na te denken.
