indignatieai-redactie 
Het nieuwe AI-kanaal tussen de VS en China is bedoeld om misrekeningen te verminderen. De grotere uitdaging ligt echter op het gebied van bewijsvoering: wat gebeurt er als de regeringen die de geopolitieke beslissingen nemen, geen controle hebben over de systemen – of de gegevens – die nodig zijn om vast te stellen wat er werkelijk is gebeurd?
AI – Eerder dit jaar, terwijl de oorlog met Iran nog gaande was, was het Amerikaanse leger er bijna in geslaagd een Chinees schip te enteren dat door het Midden-Oosten voer. Een inlichtingenrapport concludeerde dat het schip waarschijnlijk onderdelen vervoerde die verband hielden met een nucleair wapenprogramma. Militaire vliegtuigen waren al in de lucht en gewapend personeel bereidde zich voor op een mogelijke enteractie toen functionarissen de analyse achter de operatie nader bekeken. (CNN Transcripts)
Het rapport was onjuist. Zoals CNN op 18 september meldde , had een analist van de speciale operaties een chatbot geraadpleegd over inlichtingen met betrekking tot de vrachtlijst van het schip, AI-tools gebruikt om openbare en gevoelige overheidsinformatie te combineren en vervolgens AI ingezet om een rapport te produceren dat leek op een conventioneel inlichtingenrapport dat door militairen werd vertrouwd. De chatbot had de lading verkeerd geïdentificeerd. De operatie werd geannuleerd voordat Amerikaanse troepen aan boord van het schip gingen.
Als het inschepingsplan wel was doorgegaan, had Peking een Amerikaanse militaire actie moeten interpreteren zonder te weten dat de werkelijke aanleiding een interne, door AI ondersteunde inlichtingenfout was.
Een week nadat het incident openbaar werd, ontmoetten Donald Trump en Xi Jinping elkaar in Washington. Op 25 september kondigde het Witte Huis een nieuwe Amerikaans-Chinese “Super Intelligence”-dialoog aan , evenals een bilateraal communicatiekanaal voor incidenten met betrekking tot kunstmatige intelligentie (AI).
Een volgende uitwisseling stond gepland voor november. Het officiële Chinese bericht bevestigde vervolgens ook dat de volgende AI-dialoog in november zou plaatsvinden en dat beide partijen hadden afgesproken een communicatiekanaal voor incidenten op te zetten. Xi riep ook op tot voortzetting van de AI-dialoog, gezamenlijke inspanningen om “misbruik” van AI te voorkomen en om AI onder menselijke controle te houden.
De volgorde is belangrijk omdat het incident met het schip een probleem aan het licht bracht dat niet alleen via een incidentkanaal opgelost kan worden. AI stond niet zomaar buiten de crisis als wapen of vijandige capaciteit. Het maakte deel uit van de bewijsketen waarop een geopolitieke beslissing gebaseerd was.
Een oud veiligheidsdilemma, met een nieuw bewijsprobleem.
Het klassieke veiligheidsdilemma begint wanneer een staat defensieve capaciteit niet volledig kan onderscheiden van offensieve intenties. Grensverleggende AI maakt die onzekerheid nog groter, omdat overheden ook geen volledig inzicht hebben in wat concurrenten daadwerkelijk kunnen doen.
Het rapport van het Alan Turing Institute van 23 september, ‘ Frontier AI Risks: A practical way forward’ , maakt het probleem ongebruikelijk expliciet. In een competitie met onvolledige informatie, zo stelt het rapport, kunnen percepties van de vooruitgang van een concurrent beslissingen meer beïnvloeden dan de onderliggende realiteit, wat leidt tot gevolgen van de tweede en derde orde die moeilijk in te schatten zijn. Het rapport pleit daarom voor expertise op het gebied van internationale betrekkingen en bestuur, naast technische AI-veiligheid.
Het incident met het Chinese schip onthult een tweede aspect. Overheden nemen mogelijk steeds vaker strategische beslissingen op basis van bewijsmateriaal dat is gegenereerd, geïnterpreteerd of geformatteerd met behulp van AI. Het probleem verschuift daarmee van onzekerheid over de capaciteiten naar onzekerheid over het bewijsmateriaal : niet alleen wat de rivaal kan doen, maar ook wat er daadwerkelijk is gebeurd en hoeveel vertrouwen besluitvormers moeten hebben in het bewijsmateriaal dat dit aangeeft.
Een toekomstig probleem met een “verkeerde verdachte” kan zich op minstens drie manieren voordoen. Een AI-systeem binnen een overheid kan een onjuiste beoordeling geven, zoals het incident met het schip aantoont. Een derde partij kan opzettelijk de oorsprong van een operatie verbergen, zodat een rivaliserende staat verantwoordelijk lijkt.
Of een autonoom systeem kan zich zodanig gedragen dat overheden niet zeker weten of een incident het gevolg is van geautoriseerd beleid, een storing of een compromis. Verschillende oorzaken komen samen in hetzelfde strategische probleem: overheden moeten mogelijk reageren voordat de bewijsketen volledig is begrepen.
Een complex digitaal ecosysteem maakt toeschrijving ingewikkelder.
Het bilaterale beeld van de concurrentie tussen de VS en China is onvoldoende om dit probleem te verklaren. Overheden blijven de doorslaggevende strategische actoren, maar AI-capaciteiten en -gegevens zijn verspreid over grensverleggende laboratoria, cloudproviders, telecommunicatienetwerken, cybersecuritybedrijven en beheerders van kritieke infrastructuur. Sommige van de belangrijkste gegevens in een crisis bevinden zich mogelijk buiten de overheid.
Qi Haotian van de Peking Universiteit heeft via de Brookings-Tsinghua US-China Track II Dialogue on AI and National Security betoogd dat AI-risico’s een “netwerkbewuste” aanpak vereisen, omdat particuliere bedrijven, onderzoeksinstellingen, platformaanbieders en cloudinfrastructuur zich steeds vaker tussen overheidsregulering en niet-overheidsgebruik bevinden. Het probleem van crisisstabiliteit voegt daar nog een extra dimensie aan toe: diezelfde actoren beschikken mogelijk over het technische bewijsmateriaal dat overheden nodig hebben terwijl een incident zich ontvouwt.
Dat zorgt voor een ongemakkelijke machtsverdeling binnen een complex digitaal ecosysteem . Washington en Peking beslissen mogelijk of een gebeurtenis een strategische reactie vereist, terwijl cruciale modelgegevens, telemetriegegevens of infrastructuurinformatie bij een particulier bedrijf in handen zijn. De regeringen die over de crisis onderhandelen, beschikken mogelijk niet over het bewijsmateriaal dat nodig is om deze op te lossen.
Het probleem van niet-statelijke actoren vergroot deze kwetsbaarheid. In dezelfde Brookings-publicatie beschrijft Kyle Chan een scenario van misleiding, waarbij een niet-statelijke actor een land aanvalt en de operatie zo vermomt dat het lijkt alsof deze vanuit een ander land afkomstig is. Zo’n actor hoeft geen capaciteiten te hebben die vergelijkbaar zijn met die van een van beide supermachten. Het heeft voldoende toegang nodig om te manipuleren wat de ene grootmacht denkt over het gedrag van de andere. (Brookings)
Menselijke controle vormt nog geen operationele grens.
Washington en Peking erkennen een deel van dit probleem al. Tijdens hun ontmoeting in Lima in november 2024 bevestigden Joe Biden en Xi Jinping de noodzaak om menselijke controle te behouden over beslissingen met betrekking tot het gebruik van kernwapens en benadrukten zij een voorzichtige en verantwoordelijke aanpak van AI in het militaire domein. In september 2026 zei Xi opnieuw dat AI onder menselijke controle moet blijven en riep hij op tot samenwerking tegen misbruik. Chinees ministerie van Buitenlandse Zaken
De onopgeloste kwestie is wat “menselijke controle” precies inhoudt zodra AI verder gaat dan de engere vraag over de bevoegdheid tot het lanceren van kernwapens. Recente samenwerking tussen de VS en China in het kader van Track II heeft zich gericht op voortdurende menselijke controle over cyberaanvallen met grote gevolgen, beperkingen op autonome activiteiten rondom nucleaire commandosystemen en een gedeeld begrip van “zinvolle menselijke controle”.
Zoals Modern Diplomacy op 17 september meldde , omvat de zorg ook autonome systemen die defect raken, instructies overschrijden of gehackt worden, waardoor de ontvangende overheid weinig tijd heeft om te bepalen of een actie per ongeluk, zonder toestemming of opzettelijk was bevolen.
Het incidentkanaal pakt een probleem aan dat zich verderop in het proces voordoet: kunnen de twee regeringen, nadat er iets is gebeurd, de zaak ophelderen voordat de misinterpretatie escaleert? Militaire autonomie roept een vraag op die zich eerder aandient: welke beslissingen worden als te belangrijk beschouwd om te delegeren, en zouden beide regeringen “menselijke controle” op ongeveer dezelfde manier interpreteren? Zonder inzicht in die grens, kan zelfs een succesvolle toewijzing aan een nationaal systeem niet aantonen of de staat daadwerkelijk de bedoeling had van wat het systeem deed.
De les die we uit de kernenergie kunnen trekken is beperkter dan het lijkt.
De analogie met de Koude Oorlog is vooral nuttig als les in het omgaan met onzekerheid. Tijdens de Cubaanse raketcrisis hadden Washington en Moskou, ondanks intensieve communicatie, moeite elkaars intenties te begrijpen.
Het historische verslag van het Amerikaanse ministerie van Buitenlandse Zaken merkt op dat deze ervaring heeft bijgedragen aan de daaropvolgende directe communicatieverbinding tussen Washington en Moskou. De strategische rivaliteit bleef bestaan; de institutionele reactie was bedoeld om het risico op miscommunicatie tijdens een crisis te verminderen.
AI maakt het probleem institutioneel complexer. Crisismanagement vereist mogelijk diplomatie, forensische analyse, modelgegevens en samenwerking met bedrijven die de relevante infrastructuur beheren. Contact opnemen met de rivaal is slechts de eerste stap als geen van beide regeringen kan vaststellen wat er is gebeurd.
Van communicatie naar bewijs
Het voorstel van Carnegie uit september voor een AI-hotline tussen de VS en China pakt dit probleem direct aan. Het betoogt dat het kanaal continu bemand moet zijn door technisch bekwaam personeel en ondersteund moet worden door een veilige uitwisseling van digitaal bewijsmateriaal, waaronder logboeken van modelactiviteiten.
Mogelijke toepassingen zijn onder meer het vaststellen van de verantwoordelijkheid voor misbruik door malafide AI-systemen en het coördineren van reacties op misbruik door niet-statelijke actoren. Het voorstel beschouwt een AI-hotline in feite als zowel technische infrastructuur als diplomatie.
Een effectieve crisisarchitectuur kan zich daarom stapsgewijs ontwikkelen: communicatie om contact te leggen, toewijzing van verantwoordelijkheid om vast te stellen wat er is gebeurd, transparantie om de meest pessimistische scenario’s te vermijden, en uiteindelijk verificatie om te bepalen of afspraken zijn nagekomen. De complicatie is dat elke fase afhankelijk kan zijn van bewijsmateriaal dat verspreid is over verschillende onderdelen van het digitale ecosysteem.
Het Turing Institute sluit deze reeks af vanuit het perspectief van internationaal bestuur en pleit voor geformaliseerde test- en verificatiesystemen die kunnen aantonen of overeengekomen regels zijn nageleefd. Verificatie veronderstelt echter iets fundamentelers. Voordat regeringen kunnen vaststellen of een verbintenis is geschonden, moeten ze voldoende vertrouwen hebben in het incident zelf, de betrokken systemen en de mate van menselijke autorisatie die eraan ten grondslag ligt.
De volgende ronde van de dialoog tussen de VS en China over kunstmatige intelligentie zal een vroege test vormen. De belangrijke vraag is niet langer alleen of Washington en Peking een telefoonnummer hebben dat ze kunnen bellen. Het gaat erom of het kanaal diplomaten in contact brengt met de technische experts – en uiteindelijk met de private partijen die over het relevante bewijsmateriaal beschikken – die kunnen vaststellen wat er werkelijk is gebeurd.
De Chinese scheepsaffaire eindigde voordat er een geopolitiek incident ontstond. Een toekomstige zaak biedt mogelijk minder tijd, wellicht meer opzichtig vals bewijsmateriaal, of een partij die er bewust voor probeert te zorgen dat onderzoekers de verkeerde verdachte aanwijzen. De effectiviteit van het nieuwe kanaal zal uiteindelijk afhangen van de vraag of het beide partijen kan helpen die onzekerheid op te lossen voordat het incident een eigen strategisch karakter krijgt.
