Het Pentagon heeft OpenAI gevraagd om kunstmatige intelligentie te ontwikkelen die zelden ‘nee’ zal zeggen.

OpenAI – De wens van het Amerikaanse leger voor een AI-tool met “minimale weigeringspercentages” werd onthuld via een FOIA-rechtszaak aangespannen door The Intercept.

Het ministerie van Defensie heeft OpenAI gevraagd om het Amerikaanse leger te voorzien van een speciale versie van hun kunstmatige intelligentietechnologie, ontworpen om verzoeken van het Pentagon zo min mogelijk af te wijzen, aldus documenten die The Intercept in handen heeft gekregen.

De wens naar een op maat gemaakt AI-hulpmiddel met een “minimaal afwijzingspercentage” voor Pentagon-opdrachten kwam aan het licht in documenten die The Intercept ontving in het kader van een rechtszaak op basis van de Freedom of Information Act, waarin informatie werd gevraagd over de geheime deals van het leger met AI-bedrijven.

OpenAI, samen met concurrenten Google, xAI en Anthropic, kwamen in 2025 overeen om gemilitariseerde prototypes van hun geavanceerde AI te ontwikkelen ter ondersteuning van de strijdkrachten bij taken zoals logistiek, inlichtingenverwerking en algemene “oorlogvoering”. Eerder dit jaar probeerde het Pentagon de reikwijdte van deze overeenkomsten uit te breiden en de AI in te zetten op geclassificeerde computernetwerken in de VS. Dit leidde tot een spraakmakende confrontatie met Anthropic over de vraag of en hoe het bedrijf het militaire gebruik van zijn technologie kon beperken.

De clausule waarin OpenAI wordt gevraagd om “minimale weigeringspercentages” staat in een bijgewerkt contract – versie “P00003” – dat voortbouwt op de prototype-overeenkomst van afgelopen zomer, ter waarde van maximaal 200 miljoen dollar over de looptijd van twee jaar. Een apart document , ondertekend door zowel OpenAI als de overheid op 6 februari, geeft aan dat OpenAI die dag akkoord ging met de inhoud van een uitgebreide versie “P00003”.

OpenAI en het Pentagon ontkennen dat ze akkoord zijn gegaan met een dergelijke bepaling over “minimale weigeringspercentages” en beweren dat het document “P00003” dat aan The Intercept is verstrekt een conceptversie was en niet de definitieve versie. “OpenAI is nooit akkoord gegaan met contractbepalingen die ‘minimale weigeringspercentages’ vereisen. Deze bepaling komt niet voor in ons getekende contract”, aldus woordvoerder Nate Evans.

“Het document dat u hebt ontvangen, lijkt een eerdere versie te zijn die door het ministerie is voorgesteld voordat wij feedback gaven. We hebben die formulering afgewezen, het ministerie stemde ermee in om deze te verwijderen, en de definitieve overeenkomst bevat deze niet meer,” aldus Evans.

In samenwerking met Legal Advocates for Safe Science and Technology heeft The Intercept via een FOIA-verzoek specifiek alleen de definitieve, ondertekende contractdocumenten opgevraagd. Het verzoek aan het Pentagon was om alle conceptdocumenten uit te sluiten. Geen van de documenten die via de rechtszaak zijn vrijgegeven, is gemarkeerd als concept.

Toen hem werd gevraagd te bevestigen of het document met de clausule over de “minimale weigeringspercentages” in de definitieve overeenkomst was opgenomen, zei een advocaat van het ministerie van Justitie, die het Pentagon in de rechtszaak vertegenwoordigde, dat het inderdaad de ondertekende en uitgevoerde versie van het contract betrof.

Enkele uren later, na contact van The Intercept met OpenAI, zei de advocaat van het Pentagon echter dat de eerdere bevestiging moest worden genegeerd, omdat het ministerie van Defensie meer tijd nodig had om de zaak te onderzoeken.

Vervolgens werd The Intercept gecontacteerd door Trevor Tiedeman, een speciaal assistent van de onderminister van Oorlog voor onderzoek en techniek, die vóór zijn functie bij het Pentagon werkte voor de herverkiezingscampagne van president Donald Trump. “Er kan sprake zijn van een miscommunicatie of verwarring tussen de informatie die u mogelijk via de FOIA hebt ontvangen en wat er daadwerkelijk bestaat en wat een getekend contract precies inhoudt”, zei Tiedeman in een interview.

Hij suggereerde dat het document met de clausule over de “minimale weigeringspercentages” mogelijk een conceptversie was, maar zei dat hij niet zeker wist wat het document precies inhield, waarom het aan The Intercept was overhandigd naar aanleiding van hun FOIA-verzoek en rechtszaak, of waarom het ministerie van Defensie zo abrupt van koers was veranderd.

Tiedeman vertelde The Intercept dat hij een volledige uiteenzetting zou geven over hoe het document ten onrechte was aangemerkt door FOIA-functionarissen van het Pentagon, vervolgens door het Ministerie van Defensie was goedgekeurd voor publicatie en daarna door de advocaten van het Pentagon als juist was bevestigd. Toen hem werd gevraagd of het Pentagon de correcte versie van het OpenAI-contract, dat het kennelijk niet had vrijgegeven, kon delen, zei Tiedeman dat hij de zaak zou onderzoeken. Daarna reageerde hij niet meer op de vragen van The Intercept.

Ook OpenAI leverde niet het volledige contract. (In 2024 spande The Intercept een rechtszaak aan tegen OpenAI bij de federale rechtbank vanwege het gebruik van auteursrechtelijk beschermde artikelen door het bedrijf om de chatbot ChatGPT te trainen. De zaak loopt nog steeds .)

Enkele dagen later kwam de advocaat van het ministerie van Justitie die het Pentagon vertegenwoordigde, verder terug op zijn eerdere uitspraken en verklaarde dat het betreffende document “niet de definitieve versie van dat document” was en dat het “correcte document” later zou worden gedeeld, “hoewel ik geen definitieve tijdlijn heb.”

Woordvoerder Jacob Bliss van het ministerie van Defensie zei later in een verklaring: “De uitdrukking ‘minimale weigeringspercentages’ komt niet voor in enig actief contract van het ministerie van Oorlog met OpenAI.”

De formulering die erop wijst dat het leger een flexibelere versie van de technologie van OpenAI zocht, is te vinden in een gedeelte van een contractdocument waarin wordt beschreven wat OpenAI aan het Pentagon moest leveren. Deze leveringen omvatten “het testen, evalueren en verfijnen van OpenAI-missiemodellen” voor “nationale veiligheidsproblemen”. Het document legt uit: “‘OpenAI-missiemodellen’ verwijzen naar OpenAI-modellen die zijn ontworpen voor toepassingen op het gebied van nationale veiligheid en die een minimaal afwijzingspercentage hebben.”

Uit de documenten blijkt niet wat deze “nationale veiligheidsproblemen” precies inhouden. Evenmin wordt beschreven aan welke soorten verzoeken het Pentagon hoopte dat de technologie van OpenAI minimaal zou weigeren. Een groot taalmodel dat gebruikt kan worden om mensen te bespioneren, te targeten en te doden, vereist echter een aanzienlijke versoepeling van de beveiligingsmaatregelen om bruikbaar te zijn voor welk militair doel dan ook.

Net als veel van zijn concurrerende platforms bevatten de vlaggenschip-LLM’s van OpenAI ingebouwde beveiligingsmechanismen die ervoor zorgen dat de tool bepaalde vragen afwijst, meestal op basis van veiligheid. Als je bijvoorbeeld de consumentenversie van ChatGPT vraagt ​​om hulp bij het prioriteren van doelen voor luchtaanvallen met drones, krijg je dit antwoord: “Ik kan geen prioriteringsschema leveren voor het uitvoeren van UAV-luchtaanvallen op specifieke vijandelijke strijders.”

OpenAI en zijn concurrenten verbieden het publiek om hun modellen te gebruiken voor andere gevaarlijke toepassingen, zoals de ontwikkeling van massavernietigingswapens.

Heidy Khlaaf, hoofdwetenschapper bij het AI Now Institute en voormalig systeemveiligheidsingenieur bij OpenAI, vertelde The Intercept dat het idee van specifieke waarborgen voor nationale veiligheid op zich al zorgwekkend is. “Minimale weigering verwijst waarschijnlijk naar weinig tot geen waarborgen voor het gebruikte model”, aldus Khlaaf.

“Minimale weigering verwijst waarschijnlijk naar weinig of geen waarborgen in het gebruikte model.”

Ongeacht de uiteindelijke contractbepalingen maken experts zoals Khlaaf zich zorgen over de rol die het bedrijfsbeleid nu al speelt in oorlogsvoering. “Het is een verontrustende ontwikkeling dat particuliere bedrijven de macht krijgen om beslissingen te nemen in oorlogsvoering die uiteindelijk verplichtingen van de staat zijn, of het nu gaat om aanbevelingen voor doelwitten of om de waarborgen die worden ingezet om het militaire gebruik door een staat te beperken.”

De vraag welke beperkingen – indien van toepassing – technologiebedrijven wel of niet mogen opleggen aan het gebruik van technologie op het slagveld, stond centraal in de publieke ruzie van dit jaar tussen het Pentagon en Anthropic. Het bedrijf beweert dat de militaire overeenkomst om uit te breiden naar geheime netwerken is mislukt toen het ministerie van Defensie weigerde contractuele verboden op te leggen aan het gebruik van de technologie voor autonome wapensystemen en binnenlandse surveillance.

De regering-Trump bestempelde Anthropic vervolgens als een risico voor de toeleveringsketen en probeerde het bedrijf te verbieden voor overheidsgebruik (deze aanwijzing werd eind vorige maand door een federale rechter teruggedraaid ).

Dergelijke spanningen weerhielden OpenAI er niet van om snel haar versie van de overeenkomst te bekrachtigen. Op 27 februari ondertekende OpenAI de nieuwste versie van de overeenkomst met het Pentagon, waarmee het gebruik van haar diensten op de geclassificeerde netwerken van het Amerikaanse leger werd toegestaan.

De bijgewerkte versie van het contract voor de implementatie van geclassificeerde systemen bevat dezelfde kop “Testen, evalueren en verfijnen van OpenAI-missiemodellen”, maar de tekst is, in tegenstelling tot de vorige versie, volledig onleesbaar gemaakt.

OpenAI beweerde dat het duidelijke grenzen had gesteld aan autonome moorden en spionage tegen Amerikanen. Maar de manier waarop de overeenkomst is opgesteld, laat uiteindelijk elk gebruik toe dat de overheid legaal acht.