Nep-AI van het leger ‘ontketende bijna een oorlog’ met China: aldus een rapport.

Nep-AI van het leger ‘ontketende bijna een oorlog’ met China. Volgens CNN stonden troepen op het punt een Chinees schip te enteren voordat het Pentagon zich realiseerde dat ze over valse inlichtingen beschikten.

Het experimentele en onvoorspelbare gebruik van AI (kunstmatige intelligentie) door het Amerikaanse ministerie van Defensie leidde dit voorjaar bijna tot een catastrofaal diplomatiek incident midden in de oorlog met Iran , toen een door AI gegenereerd inlichtingenrapport suggereerde dat een Chinees schip in de regio onderdelen voor kernwapens vervoerde. 

Volgens een bericht van CNN stuurde het Amerikaanse leger straaljagers de lucht in en maakten militairen zich klaar om aan boord van het schip te gaan. Maar vlak voordat de missie van start ging, controleerden analisten van het ministerie van Defensie hun werk: het rapport, zo vertelden bronnen aan CNN, was “volledig onjuist”.

De interne chatbot die een gespecialiseerde commando-analist had gebruikt om het rapport op te stellen, had de lading van het schip verkeerd geïdentificeerd. De militaire eenheden werden teruggetrokken. Niemand ging aan boord van het schip. Maar het incident scheelde niet veel of het was een ramp geworden, zozeer zelfs dat bronnen die met CNN spraken, geschokt waren en zeiden dat het valse AI-rapport “bijna een oorlog had veroorzaakt”.

Het inlichtingenrapport, dat dit voorjaar tijdens de oorlog met Iran binnen het Amerikaanse leger werd verspreid, deed onmiddellijk de alarmbellen rinkelen: een Chinees schip in het Midden-Oosten vervoerde onderdelen van een kernwapenprogramma.

Het Amerikaanse leger kwam in actie met plannen om het schip te onderscheppen, aldus vier bronnen die bekend zijn met de gebeurtenis. Volgens twee van deze bronnen stonden gewapende leden van het Amerikaanse leger klaar om aan boord van het schip te gaan. Militaire vliegtuigen waren in de lucht, aldus een van deze bronnen en een andere bron die bekend is met het incident.

Pas vlak voor de geplande operatie doken functionarissen dieper in het rapport dat was opgesteld door een analist van het commando voor speciale operaties. Ze ontdekten dat het rapport was gegenereerd met behulp van kunstmatige intelligentie (AI) en dat een chatbot die de analist had gebruikt, de lading van het schip onjuist had geïdentificeerd. CNN heeft niet kunnen achterhalen om welke lading het ging.

Volgens een van de bronnen was het rapport “volledig onjuist”. Maar het “leidde bijna tot een oorlog”, aldus de bron. Elke Amerikaanse operatie tegen een Chinees schip had het risico met zich meegebracht dat het zou escaleren tot een gewapend conflict tussen de twee landen.

Binnen het Amerikaanse leger en de inlichtingendiensten wordt er hard gewerkt om kunstmatige intelligentie in vrijwel elk aspect van hun werk te integreren, van het analyseren van de enorme hoeveelheden ruwe inlichtingen die de VS verzamelt en het selecteren van doelen voor luchtaanvallen, tot meer alledaagse toepassingen zoals budgetbeheer, logistiek en toeleveringsketens.

Maar de gebeurtenis onderstreept de enorme risico’s van het gebruik van deze krachtige, nieuwe en relatief slecht begrepen technologie voor doelwitbepaling midden in een oorlog. Analisten vrezen al langer dat kunstmatige intelligentie kan leiden tot een catastrofale misrekening als staten afhankelijk zijn van gebrekkige of vervalste gegevens – het soort misrekening dat ertoe zou kunnen leiden dat de Verenigde Staten een Chinees schip beschieten op basis van onjuiste informatie.

In dit specifieke geval raadpleegde de analist een chatbot over inlichtingenrapporten op de scheepsmanifest die afkomstig waren van het US Special Operations Command Pacific, gevestigd in Hawaï. Het was niet duidelijk of de chatbot commercieel verkrijgbaar was of een product van de Amerikaanse overheid.

“De interne tools zijn grotendeels gewoon kopieën van commerciële software, maar dan met een mooier uiterlijk”, aldus een voormalig hooggeplaatst Amerikaans functionaris die bekend is met de AI-systemen die door militaire en inlichtingendiensten worden gebruikt.

De bot combineerde openbare inlichtingen met geheime inlichtingen uit overheidsarchieven en kwam zo tot zijn noodlottige conclusie over het materiaal dat het schip vervoerde.

De analist gebruikte vervolgens opnieuw kunstmatige intelligentie om de bevindingen te verwerken in een standaard inlichtingenrapport – het soort rapport dat door militaire functionarissen wordt vertrouwd – en verspreidde het.

Het Amerikaanse Special Operations Command Pacific en het Pentagon hebben niet gereageerd op een verzoek om commentaar.

De reden voor de snelle invoering van kunstmatige intelligentie is dat het het leger kan helpen sneller beslissingen te nemen op het slagveld, zoals welke doelen moeten worden aangevallen of welke militaire middelen waarheen moeten worden verplaatst. Volgens functionarissen kan de VS het zich niet veroorloven achter te blijven bij de integratie van AI, voor het geval het ooit tegen China of een andere tegenstander moet vechten die mogelijk een stap voor kan blijven op de VS.

In januari publiceerde minister van Defensie Pete Hegseth de “Strategie voor de versnelling van kunstmatige intelligentie” van zijn ministerie, in een poging om het gebruik van AI door het leger te versnellen.

“We zullen experimenten stimuleren, bureaucratische belemmeringen wegnemen, onze investeringen richten en de uitvoeringsaanpak demonstreren die nodig is om ervoor te zorgen dat we een leidende rol spelen in militaire AI,” zei Hegseth in een toespraak waarin hij de strategie aankondigde .

De strategie dringt ook aan op een breed gebruik van AI binnen het leger en draagt ​​het ministerie op om AI beschikbaar te stellen via verschillende programma’s met als doel “AI-experimenten en -transformaties binnen het ministerie te democratiseren door Amerika’s toonaangevende AI-modellen rechtstreeks ter beschikking te stellen aan onze drie miljoen burger- en militaire medewerkers, op alle functieniveaus”, aldus een memo waarin de strategie werd aangekondigd .

Maar de aanpak is gedecentraliseerd, zo gaven meerdere Amerikaanse functionarissen die bekend zijn met de dynamiek aan. Verschillende overheidsinstanties gebruiken verschillende instrumenten onder verschillende bevelen en veiligheidsnormen. Er bestaat geen uniforme standaard voor hoe de VS de door deze instrumenten gegenereerde informatie verifieert. De veelheid aan verschillende AI-systemen die door uiteenlopende onderdelen van het leger en de inlichtingendiensten worden ingezet, betekent dat de betrouwbaarheid en functionaliteit sterk variëren.

Washingtonse beleidsmakers debatteren al wekenlang intensief over AI, na een reeks alarmerende waarschuwingen van ingenieurs en CEO’s uit Silicon Valley over de mogelijkheid dat AI zich zou kunnen losmaken van menselijke beperkingen, met potentieel rampzalige gevolgen voor de beschaving.

Maar het incident met het Chinese schip onderstreept een ander, meer direct risico: mensen die rampzalige beslissingen nemen op basis van onnauwkeurige of misleidende informatie gegenereerd door AI of andere geautomatiseerde systemen. Bronnen melden dat het leger zich in hoog tempo tot AI wendt om te helpen bij het richten van doelen, een gebied dat een duidelijk risico op fatale fouten met zich meebrengt.

“AI bij het richten op doelen wordt zeker steeds meer ingezet en er is geen duidelijke richtlijn over hoe de aanwezigheid van een mens burgerslachtoffers of eigen vuur kan voorkomen,” aldus een andere bron die bekend is met het huidige beleid van het leger.

Volgens een van de bronnen is het soort ‘ hallucinatie ‘ dat het instrument dat de analist in dit geval gebruikte opriep, geen op zichzelf staand incident binnen de inlichtingengemeenschap sinds deze instrumenten zich binnen de overheid zijn gaan verspreiden.

Voor sommige oudere inlichtingenofficieren – zelfs voor degenen die het gebruik van AI binnen het leger over het algemeen steunen – heeft AI de druk op analisten vergroot om sneller inlichtingen te produceren en te verspreiden, waardoor de kans op fouten toeneemt. Met name jonge analisten, zo gaven verschillende bronnen aan, zijn vertrouwd met deze tools en geneigd ze kritiekloos te vertrouwen.

“Met AI kun je sneller tot een slecht idee komen,” aldus een van de bronnen.

Hoewel andere functionarissen hun werk controleerden en een ramp wisten te voorkomen, is het waarschijnlijk slechts een kwestie van tijd voordat zoiets weer gebeurt. In april vertelde een hoge functionaris van het Pentagon aan de website DefenseScoop dat de afdeling van Hegseth “alles op GenAI.mil als vee aan het drijven was, zoals we dat zeggen “. 

Americanism, not effective altruism.

The United States will continue to be AI DOMINANT! 🇺🇸 pic.twitter.com/CQDt5s72Jl

— Department of War CTO (@DoWCTO) September 14, 2026

Het inkoop- en implementatieproces van het leger – in feite de manier waarop ze nieuwe instrumenten in gebruik nemen – staat erom bekend dat het erg traag is. Maar het lijkt erop dat AI-technologie de trage molens van de traditionele bureaucratie effectief heeft omzeild en in elk aspect van de workflow van het Pentagon wordt geïntroduceerd. Het rapport van CNN is een van de eerste grote gedocumenteerde gevallen van een ernstige fout – een fout die zo ver ging dat echte soldaten op het punt stonden betrokken te raken bij een belangrijke, diplomatiek gevoelige operatie. 

Het Pentagon heeft hun werk dit keer gecontroleerd en niemand is gewond geraakt. Maar in een leger waarin AI voorop staat, is alles wat er in de toekomst gebeurt puur een gok.