indignatieai-redactie 
We hadden een plan om de Derde Wereldoorlog te voorkomen. AI zou dat plan kunnen dwarsbomen.
AI De Amerikanen kwamen steeds dichterbij, de situatie werd met de minuut gevaarlijker – en president Xi Jinping wachtte op mijn aanbeveling.
De patstelling begon in mei, toen de VS een pakket luchtdoel- en anti-scheepsraketten aan Taiwan aankondigden dat het eiland aanzienlijk beter in staat zou stellen een Chinese invasie af te weren. We bevalen grootschalige militaire oefeningen in de regio als machtsvertoon. De VS reageerden al snel door de USS Abraham Lincoln te sturen om zelf oefeningen te leiden met een gezamenlijk contingent Australische en Japanse troepen.
Als we zwakte zouden tonen, zou Taiwan voorgoed aan China verloren kunnen gaan. Als we te agressief zouden zijn, zou dat tot een Derde Wereldoorlog kunnen leiden. Maar met zoveel schepen en vliegtuigen die de regio bedreigden, allemaal met onduidelijke bedoelingen, werd de situatie te complex voor de commandanten om te overzien, en het risico op een dodelijke misrekening nam toe. Er was al een gespannen incident geweest waarbij een Chinese maritieme militie het vuur opende op een Amerikaanse helikopter – gelukkig zonder slachtoffers.
Belangrijkste conclusies
- Recente gebeurtenissen in Oekraïne en Iran laten zien dat het gebruik van kunstmatige intelligentie op het slagveld zeer snel is geëvolueerd van een speculatief scenario naar een actuele realiteit.
- Dit heeft geleid tot de vrees dat AI het risico op nucleaire escalatie zou kunnen vergroten, hetzij door te handelen op een manier die de ontwerpers niet beoogen, hetzij simpelweg door te snel te bewegen voor menselijke commandanten om bij te blijven.
- Ironisch genoeg blijkt de beste manier om de risico’s van de inzet van AI in oorlogstijd te verminderen, wellicht te zijn om mensen te leren hoe ze ermee moeten omgaan.
Misschien was het tijd om de machines het over te laten nemen.
De commandant van de Chinese marine-aanvalsmacht in de regio vroeg toestemming om onze recent ingezette AI-hub in te schakelen. Deze hub kon de verdedigingssystemen van alle schepen in de regio coördineren, onderscheid maken tussen vriend en vijand, reageren op bedreigingen en de optimale strategie bepalen op basis van de Chinese regels voor oorlogsvoering en beschikbare middelen. Met andere woorden, als de Amerikanen zouden aanvallen, zou de hub sneller dan welk mens dan ook de juiste reactie kunnen bepalen.
Als vicevoorzitters van de Centrale Militaire Commissie hadden mijn collega’s en ik de taak een aanbeveling aan de president te doen. Het systeem zou ons kostbare seconden kunnen geven om schepen te redden van een dreigende aanval, maar het was ook nog niet getest in gevechtssituaties en had in tests slechts een nauwkeurigheid van 95 procent bereikt.
Na een gespannen discussie besloten we uiteindelijk het nieuwe systeem in te voeren, maar wel met menselijke tussenkomst, wat betekende dat wij de uiteindelijke beslissing moesten nemen voordat we mochten schieten. We kozen voor een voorzichtige aanpak.
Blijkbaar was men niet voorzichtig genoeg.
Een paar dagen later functioneerde het door AI aangedreven systeem niet goed, waardoor het vuur opende op een Amerikaans schip en een aantal Amerikaanse soldaten om het leven kwamen. Al snel eisten Amerikaanse politici en media wraak. Amerikaanse schepen begonnen gezamenlijke patrouilles uit te voeren met de Taiwanese marine. Onze inlichtingenbronnen gaven aan dat president Donald Trump op het punt stond een officieel bondgenootschap met Taiwan te sluiten en Amerikaanse troepen op het eiland te stationeren.
We stonden op de rand van een totale oorlog.
Nepoorlog, echt probleem
Zoals je waarschijnlijk al vermoedde, is dit een fictief scenario. Ik ben geen hooggeplaatste Chinese generaal en het risico dat Trump met China op Taiwan loopt, is niet precies wat er in de echte mei 2026 is gebeurd.
Het verhaal komt uit het script van een oorlogssimulatie die werd georganiseerd door het Hoover Institution van Stanford University en waaraan ik afgelopen najaar heb deelgenomen. De “vicevoorzitters” in de simulatie waren een groep medewerkers en China-beleidsdeskundigen van beide partijen, die in een comfortabele vergaderzaal in Washington D.C. zaten met koffie en bagels. (Als voorwaarde voor deelname aan het spel had ik afgesproken geen van de deelnemers bij naam te noemen of rechtstreeks te citeren.)
Maar de zorg die het spel illustreert, namelijk dat een door AI aangedreven defensiesysteem een militaire crisis uit de hand laat lopen, is zeer reëel. Experts maken zich steeds meer zorgen dat door AI aangedreven systemen militaire conflicten sneller kunnen laten escaleren dan een mens kan beheersen of voorzien – of dat een misrekening ertoe kan leiden dat AI militaire acties onderneemt die mensen nooit bedoeld hebben, met dodelijke gevolgen . En de risico’s zijn vooral groot als het gaat om kernwapenlanden zoals de VS en China.
Tot nu toe zijn AI-gestuurde systemen vooral gebruikt door legers zoals die van Amerika en Israël in conflicten waarin ze al een overweldigend voordeel hadden ten opzichte van hun tegenstanders, of door landen zoals Oekraïne om het speelveld gelijk te trekken tegen een veel grotere vijand. Maar hoe zou het eruitzien in een oorlog tussen twee “bijna gelijkwaardige” supermachten zoals de VS en China?
Dit is niet langer slechts een theoretische vraag. In het kader van een initiatief dat begon onder de regering-Biden, werkt de VS aan de ontwikkeling van vloten van kleine, goedkope, door AI aangedreven drones die een kosteneffectief ” hellandschap ” zouden kunnen creëren om een Chinese invasie van Taiwan te neutraliseren. De beslissingen die mijn team in ons gesimuleerde conflict heeft genomen, zouden wel eens eerder dan verwacht in een echt conflict op tafel kunnen komen.
We kunnen wellicht niet meer terugkeren naar deze nieuwe grens. Maar als regerings- en militaire leiders de regels ervan kunnen doorgronden en hun denkwijze tijdig kunnen aanpassen, zouden ze de wereldwijde oorlog die ze al generaties lang proberen te voorkomen, mogelijk kunnen afwenden.
De opkomst van AI op het slagveld
Jacquelyn Schneider, directeur van het Hoover Wargaming and Crisis Simulation Initiative, organiseert al enkele jaren spellen over kunstmatige intelligentie en escalatie van crises, waarbij deelnemers de rol spelen van landen aan beide zijden van hypothetische conflicten. Toen ze met de oorlogsspellen begon, voelden de mogelijkheden in het scenario “mei 2026” nogal futuristisch aan. De laatste tijd voelt het spel “iets minder als sciencefiction”, vertelde ze me.
Het Pentagon werkt al jaren actief aan het versnellen van het gebruik van AI om bedreigingen te detecteren, doelen te identificeren en de besluitvorming van commandanten te ondersteunen. De eerste initiatieven tijdens de eerste regering-Trump kwamen deels voort uit de frustratie van officieren over mislukte data-analyses die leidden tot de dood van Amerikaanse soldaten in Irak en Afghanistan.
Het Amerikaanse leger verzamelde enorme hoeveelheden informatie via sensoren , satellieten en menselijke bronnen, maar was vaak te traag om bedreigingen voor troepen aan het front te ontdekken. De droom was een systeem dat potentiële gevaren eerder kon detecteren en gebruikers opties kon bieden om ze veel sneller te vernietigen dan menselijke analisten, waardoor de zogenaamde ” kill chain ” (de keten van vernietigingsmechanismen) drastisch zou worden verkort .
We zien nu dat AI-programma’s dagelijks worden ingezet in echte gevechtssituaties. Het Maven Smart System, een door Palantir geleverd systeem dat data van satellieten, drones en talloze andere sensoren integreert, is door de VS gebruikt om dagelijks tientallen potentiële Russische doelen door te geven aan Oekraïense troepen.
De Oekraïners zelf hebben een systeem ontwikkeld, dat de bijnaam ” Uber voor artillerie ” heeft gekregen, om het vuur over de frontlinie te coördineren. Tijdens de oorlog in Gaza gebruikte het Israëlische leger een AI-gestuurd systeem genaamd “Lavender” om Hamas-doelen te identificeren, hoewel sommige berichten suggereren dat het een foutmarge van ongeveer 10 procent had .
Het Amerikaanse leger heeft AI ingezet bij recente operaties in Venezuela en Iran. Deze operaties leidden tot aanzienlijke kritiek nadat een foutieve doelwitbepaling minstens 175 mensen, voornamelijk kinderen, het leven kostte op een school in Minab. Het is nog niet duidelijk of de AI-systemen Claude en Maven Smart System een rol speelden bij die specifieke aanval, maar volgens Amerikaanse functionarissen werden beide systemen op grote schaal gebruikt tijdens de bombardementen.
Een nagebootste scène van een klaslokaal tijdens een herdenkingsbijeenkomst.
Desondanks dringt minister van Defensie Pete Hegseth er sterk op aan om AI op grotere schaal in te zetten binnen de Amerikaanse militaire systemen.
Eerder dit jaar dreigde het Pentagon de eigenaar van Claude, Anthropic, te blokkeren voor gebruik binnen de overheid – naar verluidt vanwege de eis van het bedrijf dat de software nooit gebruikt zou worden voor massasurveillance of autonome wapens. Anthropic wilde dat een mens betrokken bleef bij beslissingen over leven en dood, terwijl functionarissen van het Pentagon naar verluidt de mogelijkheid wilden behouden om het bedrijf te omzeilen en het programma naar eigen inzicht te gebruiken.
Dit brengt ons terug bij de VS en China. Hoewel fouten veroorzaakt door AI mogelijk hebben geleid tot tragische burgerdoden in Gaza en Iran, zouden dergelijke fouten in een conflict tussen de VS en China werkelijk wereldwijde gevolgen kunnen hebben.
De bomaanslag op de Minab-school is bijvoorbeeld in sommige berichtgeving vergeleken met de onbedoelde Amerikaanse bomaanslag op de Chinese ambassade in Belgrado in 1999. Dat incident, dat plaatsvond in een tijd dat de betrekkingen tussen de VS en China relatief vriendschappelijk waren en het Chinese leger veel kleiner was, leidde tot een diplomatieke crisis. Vandaag de dag zou iets soortgelijks een oorlog kunnen ontketenen – en in een steeds meer geautomatiseerd slagveld een oorlog die sneller van een conventioneel conflict kan omslaan in een nucleaire oorlog dan menselijke militaire leiders kunnen bijbenen.
AI en de escalatieladder
Dit is niet de eerste keer dat een nieuwe militaire technologie ons dwingt na te denken over hoe beperkte oorlogen kunnen uitgroeien tot veel grotere conflicten. De komst van kernwapens maakte het beheersen van escalatie van conflicten tot een urgent probleem voor defensiestrategen tijdens de Koude Oorlog.
De bekendste van hen was Herman Kahn van de RAND Corporation, die in 1965 een escalatieladder met 44 treden ontwierp om conflicten in een nucleair tijdperk te modelleren. De ladder begon bij een geweldloze Koude Oorlog en liep via een conventionele oorlog met een “beperkte” nucleaire uitwisseling rond trede 15 helemaal door tot een zinloze en apocalyptische nucleaire “uitbarsting” op trede 44.
De geschriften van Kahn zijn onrustbarend door hun kille rationaliteit. (Hij was een van de inspiratiebronnen voor Stanley Kubricks personage Dr. Strangelove.) Maar een zorg die gedurende het nucleaire tijdperk altijd aanwezig is geweest, is dat een crisis zou kunnen escaleren door menselijke misrekeningen of technische fouten in plaats van rationele berekeningen.
Slechts enkele jaren eerder, in 1962, was dit bijna gebeurd tijdens de confrontatie tussen de VS en de Sovjet-Unie over Cuba . In wat algemeen wordt beschouwd als het moment waarop de Koude Oorlog het dichtst bij een nucleaire oorlog kwam, bevalen de VS, gealarmeerd door de plaatsing van Sovjetraketten op Cuba, een blokkade van het eiland en waarschuwden dat elke poging van de Sovjets om extra militair materieel naar het eiland te transporteren met geweld zou worden beantwoord.
Tijdens een van de meest zenuwslopende bijna-ongelukken van de Cubaanse raketcrisis vuurde de kapitein van de Sovjet-onderzeeër B-59, nadat hij was geraakt door Amerikaanse dieptebommen en geen contact meer kon leggen met Moskou of andere schepen in het gebied, bijna een met kernwapens beladen torpedo af .
Beide partijen in de patstelling raakten ervan overtuigd dat ze manieren moesten vinden om hun stappen in de escalatieladder duidelijker te communiceren om een onbedoelde oorlog te voorkomen. Het jaar daarop installeerden Washington en Moskou een ” hotline ” voor directe telefonische communicatie tussen de Amerikaanse president en de Sovjetpremier.
“Voor militairen in crisissituaties zijn er maar weinig dingen belangrijker dan informatie en controle over beslissingen.”
— Michael Horowitz, voormalig plaatsvervangend assistent-secretaris van Defensie
Maar wat als de volgende stappen in de escalatie zich volledig zonder hun inbreng hadden afgespeeld? In een artikel uit 2019 schetste Michael Horowitz, voormalig adjunct-secretaris van Defensie en nu hoogleraar aan de Universiteit van Pennsylvania, hoe de Cubaanse raketcrisis zich in het tijdperk van kunstmatige intelligentie had kunnen ontvouwen. Nadat president John F. Kennedy de Amerikaanse marine opdracht had gegeven Cuba te blokkeren, had hij een systeem zoals in de simulatie van Hoover kunnen laten programmeren om elk Sovjetschip dat de blokkade probeerde te doorbreken, te beschieten.
Mogelijk is dit een effectieve manier van signaleren. Een populaire metafoor uit de Koude Oorlog was die van een speler in een spelletje ‘kip’ die het stuur uit het raam gooide om alle twijfel over de bestemming weg te nemen.
Als Kennedy de Sovjets ervan had kunnen overtuigen dat zijn gevechtsrobots elk schip dat Cuba naderde zouden beschieten zonder op zijn bevelen te wachten, had dat de Russische leiders wellicht afgeschrikt die anders zouden twijfelen aan de bereidheid van Amerika om een nucleaire oorlog te voeren. Aan de andere kant zou de VS een buitengewoon groot vertrouwen stellen in een geautomatiseerd systeem dat geen fouten maakt of – zoals in het B-59-incident – een dubbelzinnig incident op dezelfde manier interpreteert als een menselijke commandant die niet wil dat zijn eigen familie in een nucleaire explosie omkomt.
“Er zijn maar weinig dingen belangrijker voor militairen in crisissituaties dan informatie en controle over beslissingen,” schreef Horowitz.
Een nucleaire “flash crash”
Een belangrijk aandachtspunt is dat als cruciale beslissingen worden gedelegeerd aan AI-systemen, die mogelijk zelf reageren op beslissingen van de AI-systemen van de vijand, een conflict te snel kan escaleren voor menselijke besluitvormers om bij te blijven.
In zijn boek Army of None haalt Paul Scharre , de voormalige Pentagon-functionaris die nu werkzaam is bij het Center for a New American Security, het voorbeeld aan van de ‘flash crash’ van 2010, waarbij de Dow Jones binnen enkele minuten bijna 9 procent van zijn waarde verloor, om die minder dan een uur later weer te herstellen . Dit incident werd toegeschreven aan de opeenvolgende interacties van algoritmische handelsprogramma’s die op elkaars bewegingen reageerden zonder menselijke tussenkomst. De vrees bestaat dat de volgende supermachtoorlog een ‘flash war’ zou kunnen zijn.
Rebecca Hersman – voormalig directeur van het Defense Threat Reduction Agency van het Pentagon en nu werkzaam bij het Center for the Governance of AI (GovAI), een onafhankelijke denktank – heeft gewaarschuwd dat moderne technologieën, waaronder AI, de potentie hebben om de lineaire escalatieladder die Kahn voor ogen had, te verstoren en om te zetten in een onvoorspelbaardere dynamiek die zij “wormhole-escalatie” noemt.
Ze ziet verschillende manieren waarop dit zou kunnen gebeuren, en die vereisen niet per se dat mensen de volledige controle overdragen aan een AI-verdedigingssysteem. De data die de AI-systemen van de vijand gebruiken om bedreigingen te beoordelen, zouden vervalst of besmet kunnen zijn, waardoor leiders gedwongen worden om snel een beslissing te nemen op basis van verkeerde inlichtingen. Of door AI gegenereerde desinformatie of deepfakes zouden de beslissingen van militaire of politieke leiders kunnen beïnvloeden bij de vraag of een conflict moet escaleren of de-escaleren: dit risico werd op dramatische wijze aangetoond tijdens het korte gewapende conflict tussen India en Pakistan in 2025, toen sociale media aan beide zijden overspoeld werden met desinformatie , waardoor het moeilijk was om een accuraat beeld van het slagveld te krijgen en beide partijen een agressievere houding aannamen. (Dit was waarschijnlijk ook het eerste gewapende conflict tussen twee nucleair bewapende rivalen waarin beide partijen AI-versterkte wapens en door AI gegenereerde desinformatie tegen hun tegenstanders gebruikten.)
“Een AI die is geoptimaliseerd rond vooraf gedefinieerde doelen, kan kansen voor de-escalatie over het hoofd zien, niet omdat er een technische storing is, maar omdat deze nooit is ontworpen met de ambiguïteit in gedachten die nodig is om vertrouwen op te bouwen of een crisis te beheersen.”
— James Johnson, auteur van AI and the Bomb: Nuclear Strategy and Risk in the Digital Age
De risico’s worden versterkt door andere trends, waaronder de vermenging van nucleaire en niet-nucleaire capaciteiten op het slagveld. Rusland heeft bijvoorbeeld veelvuldig gebruikgemaakt van zijn nucleair inzetbare “Oreshnik”-raketten (gelukkig bewapend met conventionele ladingen) bij dodelijke aanvallen op Oekraïense steden . China beschikt ook over raketten met dubbele capaciteit , waardoor het voor analisten moeilijk zou zijn om nucleaire van niet-nucleaire lanceringen te onderscheiden tijdens een conflict.
Waar komt AI in beeld? Stephen Herzog, hoogleraar aan het James Martin Center for Nonproliferation Studies van het Middlebury Institute of International Studies, schetste een gevechtsscenario waarin de VS probeert een Chinees doelwit te vernietigen met een conventioneel bewapende intercontinentale ballistische raket, afgevuurd vanaf honderden of zelfs duizenden kilometers afstand. Als de lancering mislukt, zou een AI-gestuurd gevechtsmanagementsysteem kunnen besluiten dat een onderzeeër vlak voor de Chinese kust het doelwit moet vernietigen. Dit zou de tijd die de Chinezen hebben om te beslissen of ze onder nucleaire aanval staan, kunnen verkorten van minuten tot seconden.
“Dat is operationeel gezien ongelooflijk effectief, maar vanuit het oogpunt van escalatie is het angstaanjagend, omdat we nu tijd hebben verloren voor interpretatie, tijd voor signalering en tijd voor mogelijke terughoudendheid,” aldus Herzog.
Dan is er nog de vraag of AI zelf inherent escalerend is. Leiders beslissen of ze conflicten beginnen of beëindigen door de risico’s en voordelen af te wegen, maar ook door hun menselijke intuïtie te gebruiken om de denkwijze van hun gesprekspartner te raden, hun intenties en angsten te doorgronden en te overwegen of er ruimte is voor overeenstemming. Twee algoritmes die elkaar aftasten, zouden deze vragen op een fundamenteel andere manier kunnen benaderen.
“Een AI die is geoptimaliseerd rond vooraf gedefinieerde doelen, kan kansen voor de-escalatie over het hoofd zien, niet omdat er een technische storing is, maar omdat deze nooit is ontworpen met de ambiguïteit in gedachten die nodig is om vertrouwen op te bouwen of een crisis te beheersen”, aldus James Johnson, hoofddocent aan de Universiteit van Aberdeen en auteur van het boek AI and the Bomb: Nuclear Strategy and Risk in the Digital Age.
Een studie van King’s College London, gepubliceerd in februari, toonde aan dat chatbots zoals ChatGPT, Claude en Gemini in gesimuleerde oorlogsspellen een zeer grote kans hebben om nucleaire signalen en tactisch gebruik van kernwapens te gebruiken, en dat ze de neiging hebben om “kernwapens te beschouwen als legitieme strategische opties, niet als morele drempels”. Schneider van Hoover heeft vergelijkbare resultaten gevonden toen ze populaire chatbots haar oorlogsspellen liet spelen. Andere onderzoekers hebben echter ontdekt dat modellen op de juiste manier kunnen worden aangestuurd om minder escalerende opties aan te bieden.
AI-technologie bevindt zich, in tegenstelling tot kernwapens, nog in een relatief pril stadium. Hoewel de grootmachten tijdens de Koude Oorlog konden vertrouwen op wederzijdse gegarandeerde vernietiging – de geloofwaardige angst dat beide partijen in een nucleair conflict zouden worden vernietigd – om escalatie te voorkomen, vrezen sommige experts dat een doorbraak in AI aan één kant de andere partij ertoe zou kunnen brengen te concluderen dat ze snel moet handelen, anders verliest ze haar vermogen om zichzelf te verdedigen.
“Een van de grootste gevolgen van AI zou kunnen zijn dat, als de VS bijvoorbeeld zoveel beter is in het integreren van AI dan China dat de VS snel een conflict over Taiwan kan winnen, dat de Chinezen onder druk zet om meteen kernwapens in te zetten,” aldus James Acton, mededirecteur van het Nuclear Policy Program bij de Carnegie Endowment for International Peace.
Ook andere technologische innovaties zouden besluitvormers ertoe kunnen aanzetten om de situatie te laten escaleren. Door AI mogelijk gemaakte gerichte en inlichtingenmonitoring zou het uitvoeren van ‘onthoofdingsaanvallen’, zoals die waarbij onlangs de Iraanse opperleider Ayatollah Ali Khamenei om het leven kwam, kunnen vergemakkelijken – precies het soort scenario dat een leider als Kim Jong-un van Noord-Korea of Vladimir Poetin van Rusland ertoe zou kunnen aanzetten om de nucleaire codes te overwegen.
Het mensenprobleem
Het is waarschijnlijk te laat om de geest van militaire AI terug in de fles te stoppen, gezien de wapenwedloop tussen landen om als eerste de meest geavanceerde systemen te ontwikkelen . De beste manier om de risico’s in de toekomst te beheersen, is wellicht, ironisch genoeg, om de mensen die verantwoordelijk zijn voor het gebruik van deze systemen, sceptischer te maken over hun waarde.
Zoals in vrijwel elk domein raken de mensen die beroepsmatig oorlog voeren steeds meer vertrouwd met AI. De hoogste Amerikaanse generaal die de Amerikaanse troepen in Zuid-Korea aanvoert, zorgde onlangs voor ophef toen hij verslaggevers vertelde dat hij ChatGPT regelmatig raadpleegt om hem te helpen bij het nemen van commandobeslissingen .
Desondanks zijn de meeste mensen nog steeds erg terughoudend om de volledige controle over leven en dood aan machines over te laten. In de oorlogssimulatie tussen de VS en China waaraan ik deelnam, kozen alle groepen ervoor om het AI-systeem in de modus “menselijke controle” te houden, ondanks de verzekeringen die we kregen over de betrouwbaarheid van het systeem. Die beslissing bleef staan, hoe gevaarlijk de crisis ook escaleerde.
“Eigenlijk betekent zinvolle menselijke controle dat wanneer ik een bevoegdheid aan een systeem delegeer, deze bevoegdheid niet verder reikt dan de toegekende bevoegdheid,” aldus Hersman van GovAI.
Veel experts maken zich minder zorgen over het feit dat AI op zichzelf conflicten zou kunnen laten escaleren, dan over het feit dat AI mensen eerder geneigd zou maken conflicten te laten escaleren. Een veelgehoorde zorg over het militaire gebruik van AI is “automatiseringsbias”, de menselijke neiging om overmatig veel waarde te hechten aan door computers gegenereerd advies en conclusies.
“Het gevaarlijkste aan AI lijkt niet zozeer onzekerheid te zijn, maar eerder overmoed en misplaatste zekerheid, en AI kan daar juist voor zorgen”, aldus Schneider, de Stanford-onderzoeker die de oorlogssimulatie uitvoerde. “De tools zelf zijn ontworpen om vertrouwen te wekken.”
Schneider merkte op dat Anthropic’s Claude, het systeem dat het Pentagon hoopt te vervangen met zijn eigen systemen, “het systeem is dat je waarschijnlijk beter vertelt waar de onzekerheid ligt, in tegenstelling tot andere modellen, die wellicht een meer strikt rationele, ‘LeMay’-achtige benadering hanteren” — een verwijzing naar de beruchte oorlogszuchtige commandant van de luchtmacht tijdens de Koude Oorlog, Curtis LeMay, die oorlogsvoering ooit samenvatte als ” wanneer je genoeg [mensen] hebt gedood, stoppen ze met vechten “.
Het is mogelijk dat deze neiging tot escalatie door AI kan worden aangepakt met de juiste training. Een recente studie van Horowitz, de voormalige Pentagon-functionaris en hoogleraar aan de Universiteit van Pennsylvania, toonde bemoedigend genoeg aan dat cadetten van West Point minder dan half zo vaak een neiging tot automatisering vertonen als burgers . De resultaten suggereren dat “we niet gedoemd zijn tot een toekomst vol ongelukken als gevolg van overmoed”, aldus Horowitz, nu officieren leren om de suggesties van AI met een korreltje zout te nemen.
Horowitz is van mening dat het ontwerp van AI-interfaces, die gebruikers niet alleen informatie presenteren maar ook de bronnen van die informatie, een belangrijke rol zal spelen bij het bepalen van de impact van AI op het slagveld. Hoewel hij relatief veel vertrouwen heeft in hoe die systemen in de VS zijn ontworpen, merkt hij op: “Ik weet niet hoe het Chinese equivalent van het Maven Smart System eruitziet.”
Uiteindelijk zal AI de manier waarop mensen oorlog voeren wellicht minder veranderen dan versterken. Hoewel veel berichtgeving over de aanval op de Minab-school en Israëls gebruik van Lavender zich richtte op de rol van AI, waren het uiteindelijk waarschijnlijk verouderde richtgegevens in het eerste geval en extreem soepele regels voor het gebruik van geweld in het tweede geval die tot burgerslachtoffers leidden.
Hegseths streven naar een breder gebruik van AI komt op een moment dat hij ook de regels voor militaire inzet wil versoepelen en de rol van juristen in het militair toezicht wil verkleinen. Dit heeft de bezorgdheid gewekt dat de VS steeds toleranter wordt ten opzichte van nevenschade en minder bereid is mensen ter verantwoording te roepen voor mogelijke oorlogsmisdaden .
“Als je je AI goed programmeert, goed traint en ervoor zorgt dat er alleen hoogwaardige data in terechtkomt, kan ik me goed voorstellen dat de resultaten beter zullen zijn dan wanneer je alleen mensen inzet”, aldus Acton van Carnegie. “Maar vertrouw ik erop dat de huidige Amerikaanse of Israëlische regeringen er verantwoordelijk mee omgaan? Waarschijnlijk niet, is het antwoord.”
Als de VS zich in de komende jaren in een groot internationaal conflict bevinden, kan de verleiding groot zijn om AI de schuld te geven van het versnellen van de gevechten of het kweken van overmoed bij commandanten. Maar uiteindelijk zijn het de mensen die ervoor kiezen om zichzelf in die situatie te brengen.
