indignatieai-redactie 
Het Pentagon versnelt het proces van AI dataverzameling tot aanval zonder een regel die een pauze, onafhankelijke audit en openbare verantwoording vereist na ernstig burgerslachtoffer.
AI Toen het Pentagon in maart Palantir’s Maven Smart System officieel tot “programma van record” verklaarde, deed het meer dan alleen software goedkeuren. Het gaf een platform dat data van satellieten, drones, radars, sensoren en inlichtingenrapporten analyseert om potentiële doelen te identificeren, een status voor de lange termijn. Maven ondersteunde bijna alle 13.500 Amerikaanse aanvallen op Iran . De officiële erkenning is bedoeld om de financiering veilig te stellen en het gebruik ervan binnen het leger uit te breiden.
Die beslissing kwam terwijl de Verenigde Staten nog steeds onderzoek deden naar de aanval van 28 februari op de Shajareh Tayyebeh-meisjesschool in Minab, Iran. Een eerste onderzoek van het Amerikaanse leger wees uit dat Amerikaanse troepen waarschijnlijk verantwoordelijk waren, maar het Pentagon heeft nog geen definitieve conclusie openbaar gemaakt. De Iraanse autoriteiten hebben melding gemaakt van tussen de 155 en meer dan 175 doden, de meesten van hen leerlingen en leraren. De vraag is waarom een militair systeem dat is ontworpen om sneller van informatie naar actie over te gaan, geen even duidelijke publieke verplichting kent om te vertragen na ernstig burgerslachtoffer.
In softwareontwikkeling is een ‘foutenbudget’ bedoeld om gebruikers te beschermen. Wanneer een dienst een afgesproken foutniveau overschrijdt, worden er geen nieuwe releases meer uitgebracht totdat het probleem is begrepen en opgelost. Oorlog is natuurlijk geen software. Maar in de door AI ondersteunde operaties van Washington leiden burgerdoden niet automatisch tot een tijdelijke opschorting van de betreffende tools, een onafhankelijk onderzoek van de gegevens of een openbaar verslag van de beslissingen die tot de aanval hebben geleid.
Voorstanders van militaire AI beweren dat betere data en snellere analyses aanvallen preciezer kunnen maken. Dat is in principe mogelijk. Maar precisie is niet iets wat software zomaar bezit. Het hangt af van de kwaliteit en de ouderdom van de data, wat een systeem als verdacht beschouwt en of mensen voldoende tijd hebben om de resultaten ervan te betwisten.
AI verandert verouderde of bevooroordeelde informatie niet in waarheid. Het kan er juist voor zorgen dat verkeerde informatie zich sneller verspreidt. Human Rights Watch heeft gewaarschuwd dat Israëlische digitale instrumenten die in Gaza werden gebruikt, gebaseerd waren op onvolledige gegevens en onnauwkeurige schattingen, wat het risico op burgerslachtoffers zou kunnen vergroten. De les is niet dat elk gebruik van AI onwettig is. Het is dat snelheid de gevolgen van een onjuiste aanname kan vergroten voordat iemand die kan inzien.
De bekende geruststelling dat er “een mens bij betrokken blijft” lost dit probleem niet op. Iemand die alleen een eindadvies ziet, de gegevens niet kan inspecteren en slechts seconden in plaats van uren de tijd heeft om te beslissen, oefent geen betekenisvol onafhankelijk oordeel uit. AI kan dodelijk geweld vormgeven zonder een trekker over te halen. Het kan bepalen wat urgent lijkt, welke personen of plaatsen bovenaan een lijst komen te staan en welke feiten helemaal niet aan bod komen.
De campagne tegen Iran maakt deze zorg urgent. Maven en Anthropic’s Claude werden gebruikt om geheime inlichtingen te verwerken, coördinaten voor te stellen, doelen te rangschikken en planningen die voorheen weken duurden, om te zetten in realtime-operaties. Dat bewijst niet dat AI zelfstandig elk doelwit heeft gekozen of dat elke door AI ondersteunde aanval onwettig was. Reuters meldde later dat Palantir de taak had om de Anthropic-technologie uit Maven te verwijderen. Maar het belangrijkste punt blijft: het Pentagon institutionaliseert systemen die zijn ontworpen om de tijd voor menselijke beraadslaging vóór het gebruik van geweld te verkorten.
De tragedie in Minab illustreert de menselijke prijs van het beschouwen van snelheid als een deugd op zich. De school had een openbare website , plaatste foto’s van leerlingen en was zichtbaar op satellietbeelden. Ook meldde de school dat de verantwoordelijke functionarissen gebruik leken te hebben gemaakt van verouderde inlichtingen. De precieze rol van AI bij de aanval is niet bekendgemaakt. Maar de informatie maakte kennelijk onvoldoende onderscheid tussen de school en het aangrenzende militaire complex, en het Pentagon heeft niet publiekelijk uitgelegd hoe die tekortkoming door het selectieproces heen is gegaan. Dat is een probleem van verantwoording, niet alleen een technisch probleem.
Het Congres zou een regel moeten invoeren die burgerslachtoffers uitsluit van AI-gestuurde doelwitbepaling. Geloofwaardig bewijs van ernstig burgerslachtoffer zou moeten leiden tot een tijdelijke schorsing van het betreffende systeem bij vergelijkbare missies, een onafhankelijke beoordeling van de gegevens en het goedkeuringsproces, en een openbare uitleg van de rol van het systeem. Dit zou niet betekenen dat elk burgerslachtoffer als bewijs van een misdaad wordt beschouwd of dat elk militair gebruik van AI wordt verboden. Het zou betekenen dat families niet maandenlang in het geheim hoeven te wachten om te weten of een database, een aannemer of een bevelsbesluit ertoe heeft bijgedragen dat een burgerlocatie een doelwit is geworden.
Het Congres is begonnen met het overwegen van bredere waarborgen. Het defensievoorstel voor het fiscale jaar 2027 van de Commissie voor de Strijdkrachten van het Huis van Afgevaardigden zou het Pentagon verplichten om zijn AI-beleid uit te breiden naar systemen die de operationele planning, doelontwikkeling, wapenontwikkeling en aanbevelingen voor gevechtsvoering ondersteunen of wezenlijk beïnvloeden. Dat is een begin . Maar het is geen regel die burgers de toegang ontzegt. Het zet een systeem niet automatisch stil na een verwoestend incident en garandeert geen openbaar antwoord.
Een dergelijke regel zou het oorlogsrecht versterken. Het internationaal humanitair recht vereist dat legers alle mogelijke voorzorgsmaatregelen nemen om doelen te verifiëren en voorzienbare schade aan burgers te beperken. Het vereist ook dat ze aanvallen annuleren of opschorten wanneer duidelijk wordt dat een doelwit niet militair is of dat een aanval onwettig zou zijn. Het Rode Kruis heeft aanbevolen om na afloop evaluaties uit te voeren en AI-systemen opnieuw te testen of op te schorten wanneer er problemen ontstaan met de betrouwbaarheid, veiligheid of wettelijke naleving. Recent onderzoek wijst in dezelfde richting. Renato Wolf benadrukt het belang van voorzichtigheid bij AI-ondersteunde doelverificatie, terwijl Jessica Dorsey waarschuwt dat een te grote afhankelijkheid van computersystemen het menselijk oordeel kan ondermijnen dat nodig is om burgers te beschermen. Als een AI-gestuurd proces verificatie bemoeilijkt omdat het snelheid beloont, is er sprake van een schending van een bestaande wettelijke verplichting.
Palantir kan zeggen dat het het platform levert. Het Pentagon kan zeggen dat software alleen besluitvorming ondersteunt. Een operator kan zeggen dat de gegevens al geordend binnenkwamen.
Maar de mensen die rouwen buiten een verwoeste school blijven achter zonder duidelijk antwoord op de vraag wie verantwoordelijk is. Zolang Washington geen openbaar gemaakte regel voor burgerwachtacties invoert, blijft ‘precisieoorlogvoering’ een technische term die een politieke keuze verhult: het opvoeren van geweld zonder een zinvolle manier om de mislukkingen te stoppen, te inspecteren en ter verantwoording te roepen.
