Menselijke intelligentie, kunstmatige intelligentie AI en de toekomst van algoritmische oorlogsvoering.

Hoe groter de afstand tussen de gebruiker en de AI technologie, hoe groter de verantwoordelijkheid die daarbij komt kijken.

AI Wat gebeurt er met de mensheid wanneer technologie in staat is om mensen te herkennen, te classificeren, te volgen en uiteindelijk te doden, zonder dat degenen die de aanvallen uitvoeren hen ooit hebben gezien? Mijn vriend Mohammad Reza Dehshiri stelde precies die vraag , en zijn antwoord is indrukwekkend. Het gevaar, schrijft hij, is niet kunstmatige intelligentie, maar kunstmatige onmenselijkheid – dat wil zeggen, de mogelijkheid dat machines juist nauwkeuriger worden naarmate mensen zich minder verantwoordelijk voelen voor wat die machines in hun naam doen.

Met dit artikel lanceer ik een serie die Dehshiri’s analyse als uitgangspunt neemt en probeert verder uit te werken. Als het probleem ‘kunstmatige onmenselijkheid’ is, kan het antwoord niet liggen in een ‘ethischer’ AI, alsof ethiek een module is die achteraf aan een reeds ontworpen systeem moet worden toegevoegd.

We moeten een categorie herdefiniëren die door technologisch jargon bijna onbespreekbaar is geworden: menselijke intelligentie, niet begrepen als een overblijfsel dat beschermd moet worden te midden van de complexiteit van automatisering, maar als een vorm van kennis met eigen, onderscheidende kenmerken, die door geen enkele toename van rekenkracht kan worden vervangen.

Ik zal het Menselijke Intelligentie noemen, en de ambiguïteit is opzettelijk. In het jargon van de inlichtingendiensten verwijst HUMINT naar de oudste inlichtingendiscipline: die welke gebaseerd is op mensen, bronnen, talen en het geduldig bezoeken van plaatsen. In filosofische termen duidt de uitdrukking op het vermogen tot begrijpen. De these van deze eerste bijdrage is dat deze twee betekenissen nu samenvallen, en dat deze samensmelting geopolitieke implicaties heeft die veel verder reiken dan het debat over de ethiek van wapens.

We kunnen de operationele keten van hedendaagse oorlogsvoering in zeven fasen beschrijven: detecteren, identificeren, classificeren, voorspellen, prioriteren, richten en aanvallen. Elke schakel kan technisch worden verfijnd, maar de reeks als geheel wordt daardoor niet moreel verfijnd. Het resulterende fenomeen noemen we de ‘datificatie van het menselijk leven’: het individu wordt gereduceerd tot een identiteit, een locatie, een gedragspatroon, een dreigingsscore.

Dit is geen abstractie. In april 2024 beschreef een onderzoek van Yuval Abraham voor +972 Magazine en Local Call ‘Lavender’, een systeem dat door de Israëlische strijdkrachten in Gaza werd gebruikt om tienduizenden mensen een waarschijnlijkheid van lidmaatschap van gewapende groeperingen toe te kennen. Volgens interne bronnen die in het onderzoek werden geciteerd, duurde de handmatige verificatie van elke naam vaak niet langer dan twintig seconden – de tijd die nodig was om vast te stellen dat het doelwit een man was.

De Israëlische strijdkrachten hebben deze bewering betwist en Lavender omschreven als een database die bedoeld was om analisten te ondersteunen. Zelfs als men de officiële versie accepteert, blijft de kern van de zaak echter: er was een menselijke operator aanwezig, en diens aanwezigheid was niet voldoende om de aanbeveling van het systeem om te zetten in een oordeel.

De cognitieve psychologie heeft een naam voor dit fenomeen: automatiseringsbias . Dit is de neiging van mensen die met een geautomatiseerd systeem werken om de aanbevelingen ervan te beschouwen als een vervanging voor hun eigen verificatie, en om na te laten informatie te zoeken die deze aanbevelingen zou kunnen tegenspreken. Al in 1976 maakte Joseph Weizenbaum – die een van de eerste conversatieprogramma’s in de geschiedenis had ontwikkeld – onderscheid tussen het vermogen om te berekenen en het vermogen om te oordelen.

Hij betoogde dat er taken zijn die niet aan een computer moeten worden toevertrouwd, zelfs als de computer daartoe in staat zou zijn. Een halve eeuw later is dit onderscheid nog belangrijker geworden. Een computer werkt met gegevens die al zijn omgezet in data. Een oordeel moet bepalen of die omzetting correct is.

Dehshiri onderstreept dit punt met vier onderscheidingen: technische precisie is geen ethische precisie; nauwkeurigheid is geen rechtvaardigheid; automatisering is geen verantwoordelijkheid; technologische superioriteit is geen morele superioriteit. Ik zou daar een vijfde aan toevoegen, van epistemologische aard, waarop de andere gebaseerd zijn: correlatie is geen begrip. Een machineleersysteem herkent statistische patronen in een dataset. Het weet niet wat een school is, omdat het niet weet wat een kind is, en het weet zelfs niet dat het dit niet weet.

L’iraniano haalt een interessante casestudy aan: Op 28 februari 2026, in de vroege uren van de oorlog, werd de Shajareh Tayyebeh-basisschool in Minab, in de provincie Hormozgan, meerdere keren getroffen tijdens schooltijd. De Iraanse autoriteiten spreken van 150 tot 175 doden, waarvan de overgrote meerderheid meisjes waren, samen met tientallen leraren en enkele ouders; de districtsaanklager schatte het uiteindelijke dodental op 156. Washington heeft nooit direct zijn verantwoordelijkheid erkend, noch de bevindingen van het Pentagon-onderzoek gepubliceerd. Amnesty International heeft het incident op zijn best omschreven als een ernstig falen van de inlichtingendiensten.

Er is één detail, onthuld door satellietbeelden, dat de analyse van het morele naar het feitelijke vlak verschuift. Volgens westerse media stond de school naast een marinebasis van de Revolutionaire Garde en maakte ze er vroeger deel van uit; een van de verklaringen die in Amerikaanse kringen circuleren, is die van verouderde targetinggegevens. Als deze hypothese bevestigd zou worden, zou Minab geen geval zijn van een machinefout, maar van een database die niet langer overeenkomt met de werkelijkheid. Het gebouw was veranderd. De gegevens niet.

Geen enkel classificatiealgoritme, hoe geavanceerd ook, kan detecteren dat een oud militair gebouw een school is geworden als niemand die verandering heeft geregistreerd. Iedereen die in Minab woonde, wist dit: de ouders die hun dochters elke ochtend naar school brachten, de schoolbuschauffeur, de leraren. Dit is precies het soort kennis dat HUMINT verzamelt en dat in de wereld van oorlogsvoering op afstand doorgaans als overbodig wordt beschouwd, omdat het traag, kostbaar en moeilijk op grote schaal toe te passen is.

Op basis van openbaar beschikbare bronnen lijkt de verantwoordelijkheid van de VS zeer waarschijnlijk, terwijl de exacte omstandigheden onduidelijk blijven en de zekerheid hierover gering is: een fout in de database, een classificatiefout of een bewuste acceptatie van het risico. De drie hypotheses komen echter allemaal neer op dezelfde vraag: wie heeft vóór de aanval gecontroleerd of er mensen in dat gebouw aanwezig waren?

Voorbij ‘menselijke tussenkomst’

Het internationale debat heeft zich lange tijd tevreden gesteld met het principe van ‘ human-in-the-loop’ , waarbij een mens deel uitmaakt van het besluitvormingsproces.

Deze formule is ontoereikend: een persoon kan weliswaar in het proces aanwezig zijn, maar slechts de aanbeveling van het algoritme goedkeuren. Hij stelt voor om deze te vervangen door een veeleisender principe, dat hij ‘ menselijkheid aan het roer’ noemt : het effectieve vermogen om het geautomatiseerde proces te bevragen, te verwerpen, te overrulen en te stoppen.

De geschiedenis van de Koude Oorlog biedt twee voorbeelden die verduidelijken wat dit in de praktijk betekent. Op 26 september 1983 signaleerde het Sovjet-waarschuwingssysteem Oko de lancering van vijf ballistische raketten vanuit de Verenigde Staten. De dienstdoende officier, Stanislav Petrov, wuifde het alarm weg als vals alarm en meldde het niet als een lopende aanval, redenerend dat een eerste Amerikaanse aanval nooit uit slechts vijf raketten zou bestaan.

Hij had gelijk: de satelliet had de reflectie van de zon op de wolken aangezien voor raketlanceringen. Eenentwintig jaar eerder, op 27 oktober 1962, in de Caribische Zee, stond de Sovjet-onderzeeër B-59, geïsoleerd en onder vuur van dieptebommen, op het punt een torpedo met kernkop af te vuren. Voor de lancering was de toestemming van de drie hoogste officieren aan boord nodig, en Vasily Arkhipov weigerde die te geven.

In geen van beide gevallen keurde de man een aanbeveling van het systeem goed. Hij sprak die tegen. En hij deed dat niet omdat hij meer gegevens had: integendeel, de gegevens waren juist het probleem. Hij deed het omdat hij zichzelf een vraag kon stellen die geen enkele procedure hem oplegde, namelijk of wat hij zag logisch was in de context van alles wat hij verder over de wereld wist. Petrov was bekend met de Amerikaanse nucleaire doctrine; Archipov kende het verschil tussen een aanval en een dreiging.

Het is dit vermogen om het signaal te vergelijken met het grotere geheel, het detail met wat plausibel is, dat ik menselijke intelligentie noem. Het is belangrijk om te vermelden dat de Dena door een onderzeeër tot zinken is gebracht. We weten niet wat de officieren is gevraagd, noch welke beoordelingsruimte ze hadden.

Dit voorstel moet worden verduidelijkt, omdat het risico bestaat dat het wordt gereduceerd tot een algemeen humanistisch pleidooi. Menselijke intelligentie is, zoals ik die begrijp, opgebouwd uit drie verschillende niveaus, die elk een structurele – en niet een toevallige – grens van kunstmatige intelligentie aangeven.

Het eerste niveau is epistemologisch. De scholastieke traditie maakte onderscheid tussen intellectus , de handeling waarmee de geest onmiddellijk een waarheid grijpt, en ratio , het discursieve proces van het bewegen van het ene element naar het andere: voor Thomas van Aquino ( Summa Theologiae , I, q. 79, a. 8) zijn de twee geen afzonderlijke vermogens, maar aspecten van één enkel intellect, waarin redeneren begint met een begrip en terugkeert naar een begrip.

Huidige machine learning-systemen realiseren een ratio van ongekende kracht, in staat tot gevolgtrekkingen, combinaties en voorspellingen op schalen die ontoegankelijk zijn voor het menselijk verstand. Ze missen het aspect van intellectus , dat wil zeggen, een begrip van de betekenis van wat ze verwerken. Dit is een filosofische stelling en moet als zodanig worden gepresenteerd, maar ze heeft concrete praktische gevolgen: een systeem zonder begrip kan niet weten wanneer zijn eigen model van de wereld onjuist is geworden.

Het tweede aspect is praktisch. Prudentia , in de thomistische definitie, is de juiste rede toegepast op handelen, en haar specifieke taak bestaat erin het universele principe toe te passen op het bijzondere geval. De machine generaliseert: haar waarde ligt in het terugkoppelen van het individuele geval naar een categorie.

Prudentie doet het tegenovergestelde, omdat zij moet erkennen wat in dit specifieke geval buiten de categorie valt. Oorlog, het domein van het unieke en het onvoorziene, is de arena waar dit verschil het zwaarst weegt. De Vaticaanse nota Antiqua et nova van januari 2025 borduurde voort op deze gedachtegang en benadrukte het belichaamde en relationele karakter van de menselijke intelligentie en haar onherleidbaarheid tot een loutere verwerkingsfunctie.

Het derde niveau is relationeel, en het is hier dat filosofische betekenis die van de inlichtingendiensten ontmoet. Sherman Kent, die in feite de grondlegger was van het vakgebied inlichtingenstudies in de naoorlogse Verenigde Staten, definieerde het in de eerste plaats als kennis, nog vóór organisatie of activiteit.

HUMINT is de vorm van deze kennis die via de ander als persoon wordt doorgegeven: iemand die hun taal spreekt, hun gewoonten kent, een buurt kan inschatten en een festival van een demonstratie kan onderscheiden. In de afgelopen drie decennia hebben de grote mogendheden hun middelen steeds meer verschoven naar technische disciplines, van signaalintelligentie tot satellietbewaking en datafusieplatformen. Minab illustreert de prijs van deze onbalans.

Dit alles impliceert geen afwijzing van technologie. Menselijke intelligentie staat niet tegenover AI op dezelfde manier als een handleiding tegenover een monteur. Het vestigt een hiërarchie: het algoritme als een instrument dat ondergeschikt is aan een oordeel dat het niet zelfstandig kan vellen. En hieruit vloeit een principe voort, geformuleerd door Dehshiri, dat een operationeel criterium zou moeten worden: hoe meer technologie de actor verwijdert van de gevolgen van zijn eigen handelingen, hoe meer de bewuste verantwoordelijkheid van de beslisser moet toenemen, niet afnemen.

Geopolitiek gezien

Tot nu toe lijkt het een kwestie van morele filosofie te zijn. Maar dat is het niet alleen. De verdeling van algoritmische oorlogsvoering is een machtsverdeling, en de regels die daaraan ten grondslag liggen zullen – als ze al worden opgesteld – worden geschreven door degenen die er belang bij hebben om die mogelijkheden zo min mogelijk te beperken.

De stand van het internationaal recht bevestigt dit. De groep regeringsdeskundigen die is opgericht in het kader van het Verdrag inzake bepaalde conventionele wapens, bespreekt sinds 2017 dodelijke autonome wapensystemen zonder tot een bindend instrument te komen.

In november 2023 promootten de Verenigde Staten een politieke verklaring over het verantwoordelijke militaire gebruik van AI, die per definitie niet bindend is; in december van hetzelfde jaar nam de Algemene Vergadering van de Verenigde Naties de eerste resolutie aan die specifiek over deze systemen ging, terwijl het Internationale Comité van het Rode Kruis sinds 2021 oproept tot een verbod op onvoorspelbare autonome systemen en systemen die ontworpen zijn om mensen aan te vallen .

In juni 2024 riep paus Franciscus tijdens de G7-top in Borgo Egnazia op om nooit een machine in een positie te brengen waarin deze over iemands leven mag beslissen. De kloof tussen deze standpunten en de realiteit op de slagvelden van 2026 wordt gemeten in het aantal slachtoffers.

Er is ook een diepere asymmetrie. Degenen die de data controleren, bepalen wie het doelwit is, en de slachtoffers van algoritmische oorlogsvoering bevinden zich grotendeels buiten het Westen: in Gaza, Iran, de Sahel en Jemen. Voor staten die de platforms niet produceren of de databases ervan niet beheren, wordt menselijke intelligentie dus een kwestie van soevereiniteit.

Een land dat beschikt over taalkundige expertise, regionale kennis en netwerken voor menselijke inlichtingen, behoudt zijn autonomie in het oordeel; een land dat zijn wereldbeeld toevertrouwt aan systemen die elders zijn ontworpen – vaak door particuliere bedrijven – geeft dit wereldbeeld samen met zijn data op. In een orde die neigt naar multipolariteit, zal dit onderscheid de actoren die oordelen scheiden van degenen die worden beoordeeld.

Dit leidt tot een concreet voorstel, dat ik in toekomstige artikelen verder zal uitwerken. Naast het algemene principe van zinvol menselijk toezicht zou het internationaal humanitair recht een specifieke verplichting kunnen vastleggen voor menselijke verificatie van de burgerlijke staat van elke vaste infrastructuur die op een lijst van doelwitten staat, met een vervaldatum waarna de informatie ongeldig wordt en via directe bronnen moet worden vernieuwd. Dit is een minimumnorm. Toegepast op Minab zou dit hebben betekend dat iemand had moeten navragen of het gebouw nog steeds was wat er in de documenten stond.

Technologie kan bepalen hoe een wapen zijn doel bereikt, maar het is aan de mensheid om te beslissen of dat doel geraakt moet worden. De fundamentele vraag is wie in de praktijk die menselijkheid uitoefent, met welke kennis en binnen welke instellingen. In Minab had iemand moeten weten dat daar een school was. Het feit dat niemand het wist, of dat niemand ernaar vroeg, is het punt van waaruit we opnieuw moeten beginnen.