Kunstmatige intelligentie heeft een nieuw tijdperk van wederzijdse gegarandeerde vernietiging ingeluid. Misschien is dat niet zo erg als het klinkt.

AI – Toen ik in de jaren 80 in het leger zat, volgden we een vak genaamd “Ordnance Engineering”. Ze wachtten tot je in je laatste jaar zat voordat ze het doceerden, dus je had het voordeel dat je drie jaar lang calculus, differentiaalvergelijkingen en verschillende disciplines van toegepaste wiskunde had bestudeerd, zoals mechanica van vaste stoffen, thermodynamica en vloeistofmechanica. Met andere woorden, ze wachtten tot je de vaardigheden bezat om het te kunnen doen voordat ze je leerden wat ze precies van je verwachtten.

De opdracht aan het eind van het semester was, voor zover ik me herinner, zoiets als: “Ontwerp de loop van een houwitserkanon dat een 100 mm, 12-pondskop 16 kilometer ver kan afvuren.” Ze lieten een aantal lastige aspecten van het ontwerp weg, zoals de afstand tussen de trekken in de loop en het ontwerp van het sluitmechanisme, waar de loop openging om het kruit en het projectiel te ontvangen.

Maar er waren tal van andere variabelen: Hoe lang moest de loop zijn? Hoe dik was de loop, van de basis tot de monding waar het projectiel de loop verliet? Hoe dik was het staal rond de boring van de loopbasis, dat het drijfgas en het projectiel vasthield, zodat de loop bij het afvuren niet in duizend stukken zou exploderen? Hoeveel standaard zwartkruit, in gewicht, zou nodig zijn om de 12-pondskop 16 kilometer ver te schieten?

Er stond een vroeg model van een van de eerste computers, de IBM 360, in een ijskoude, geklimatiseerde en goed geïsoleerde ruimte in Thayer Hall, maar we gebruikten hem niet. We gebruikten een rekenliniaal om de opgave op te lossen, zoals al tientallen jaren daarvoor gebruikelijk was.

Kanonnen zijn eeuwenoude wapens die teruggaan tot de 13e ^eeuw in China. In 1969 vormden kanonnen de basiswapens van het Amerikaanse leger bij een aanval op de vijand. De kanonnen werden afgevuurd om het doelwit te verzwakken, waarna infanterie met handvuurwapens naar voren werd gestuurd om het doel te veroveren.

Oorlogvoering vond dus overal ter wereld plaats en was dat al eeuwenlang. De opdracht die we kregen, testte ons vermogen om na drie jaar studie vooruit te kijken in het ontwerpen van nieuwe wapens. Als je een kanon kunt ontwerpen, zou je na verdere studie wellicht raketten kunnen ontwerpen die in toekomstige oorlogen gebruikt zullen worden.

Ik weet niet meer wat mijn cijfer was voor de opgave bij het vak Wapentechniek dat jaar – waarschijnlijk niet geweldig – maar ik heb de opdracht afgerond en mijn eigen kanonloop ontworpen om de springstofkop over de vereiste afstand af te vuren.

Mijn bedoeling met dit verhaal is om te beschrijven wat er nodig was om wapens te ontwerpen – jarenlange studie van zeer complexe wiskunde en natuurwetenschappen – en wat je vervolgens kreeg, was het meest basale onderdeel van een wapen: de loop van een kanon. Je kreeg niet de rest, het sluitstuk, het vuurmechanisme, de richtmiddelen, al die onderdelen die het een bruikbaar wapen op het slagveld zouden maken, waarvoor nog jarenlange studie van nóg complexere wiskunde en natuurwetenschappen nodig was. En toch, uiteindelijk resulteerde dit in een moderne versie van een eeuwenoud wapen: een kanon.

De VS hadden en hebben nog steeds zeer, zeer goede kanonnen – de moderne 155 mm houwitser M114A, de nieuwste variant, is tegenwoordig in staat een GPS-geleide kernkop af te vuren, waardoor het wapen extreem nauwkeurig is. Er is zelfs ooit een kernkop voor de 155 mm houwitser ontwikkeld. Op een dag lieten ze ons in de les een streng geheim dummy-exemplaar zien.

Toen ik die cursus munitietechniek volgde, hadden we allerlei soorten kanonnen naar Vietnam verscheept en vuurden we ze af op het Noord-Vietnamese leger en de Viet Cong. Tegenwoordig hebben we ze overal ter wereld, in Azië, Afrika en Europa. We hebben ze gebruikt in Irak tijdens twee oorlogen, in Afghanistan, en we hebben ze nog steeds in Irak en op bases in Syrië en Jordanië. We hebben ook ons ​​moderne grond-grondraketsysteem, de HIMARS, overal ter wereld, dat raketten met grote nauwkeurigheid verder kan afvuren dan artilleriekoppen.

Maar dat was in het verleden.

Tegenwoordig heb je geen uitgebreide opleiding in wiskunde en techniek en een moderne economie meer nodig om dodelijke wapens te ontwikkelen. Het enige wat je nodig hebt is Anthropic’s Claude en een laptop, of misschien zelfs een smartphone, om een ​​wapen te ontwerpen en te gebruiken. Zoals Anthropic vorige week meldde: een raket die 2000 kilometer kan afleggen en een hypersonische “glijraket” (oftewel een kernkop) kan vervoeren.

Volgens Anthropic was er een “cel van terroristen in Noord-Jemen” die Claude “in plaats van menselijke software-engineers” gebruikte om besturings-, geleidings- en navigatieapparatuur te creëren en een ballistische raket af te vuren. De raket mislukte, aldus Anthropic, en “binnen enkele uren keerden de terroristen terug naar Claude om te achterhalen waarom het mislukte.”

De “cel” was het Houthi-leger in Jemen, een land met een bevolking van 32 miljoen en een nominaal bbp van 17 miljard dollar, met een bbp per hoofd van de bevolking van 416 dollar. En dat zijn de cijfers voor Jemen als land, het land met een regering. De Houthi-rebellen zijn een afsplitsing die slechts een deel van het land controleert, maar dat deel omvat de kust van de Bab al-Mandab-straat aan de monding van de Rode Zee, en sinds deze week ook het eiland Mayun, dat zich midden in de strategische zeestraat bevindt waar miljarden aan handelsgoederen doorheen stromen op weg van en naar het Suezkanaal.

De Houthi’s beschikken over raketten en drones die ze hebben ontvangen van Iran en andere “dreigingsactoren”, om de term van Anthropic te gebruiken, en ze hebben die raketten en drones al ingezet om de scheepvaart in de Rode Zee te verstoren.

Maar het nieuws van deze week is dat de Houthi’s, met behulp van de AI-technologie van Claude van Anthropic, iets hebben kunnen doen wat tot nu toe alleen landen met grote rijkdom en een goed ontwikkeld onderwijssysteem konden: mensen opleiden en trainen, zoals ikzelf ben opgeleid aan West Point, om wapensystemen te ontwerpen die op een dag, heel binnenkort, de hele wereld op zijn kop zullen zetten.

Hoe moeten we dit noemen? De democratisering van oorlogvoering? Wanneer mensen in een arm land als Jemen in staat zijn om de technologie te ontwikkelen en te gebruiken om een ​​wapen af ​​te vuren, zoals een raket met een kernkop die 2000 kilometer ver kan vliegen – dat is niet alleen nieuws, dat is groot nieuws. En het enige wat ze daarvoor hoefden te doen, was een AI-systeem genaamd Claude gebruiken.

Daarom waren de CEO’s van drie van de meest geavanceerde AI-platforms ter wereld – Anthropic, OpenAI en SpaceXAI – het eens over de oproep tot een “vertraging” in de ontwikkeling van AI “vanwege de gevaren ervan”, zoals de Washington Post gisteren schreef.

Tja, wat denk je?

Anthropic meldde dat Russische “dreigingsactoren” een kamikaze-dronezwerm hadden ontworpen met technologie die zich richtte op doelwitten van het type “persoon” “zonder dat er een mens bij betrokken was”. Anthropic meldde ook dat China en Mali Claude op andere manieren gebruikten. Een van die toepassingen simuleerde een elektronische oorlogsvoeringaanval op twaalf doelen in Taiwan, en een andere richtte zich op “specifieke Amerikaanse anti-torpedo- en anti-onderzeebootprogramma’s”, aldus Anthropic.

De voorbeelden bleven maar komen, waaronder het feit dat Claude officiële getuigenissen voor de VN-Mensenrechtenraad schreef. In een ander geval werd gemeld dat Chinese AI-systemen zoals DeepSeek gebruikers van Claude infiltreerden om Amerikaanse en Europese “namen, e-mailadressen, bedrijfsgegevens en andere gevoelige gegevens van honderden eindgebruikers” te bemachtigen.

En dit is slechts één bekentenis van één AI-bedrijf, Anthropic, over de manier waarop hun systemen zijn misbruikt. Of moeten we zeggen “gebruikt”? Het wordt steeds duidelijker dat de AI-bedrijven deze technologie hebben ontwikkeld zonder controle uit te oefenen op wie ze gebruikt en voor welke doeleinden. Dus wat is gebruiken en wat is misbruiken? Wanneer je dit soort macht op de wereld loslaat en het beschikbaar maakt voor iedereen die er toegang toe heeft…

De drie puntjes aan het einde van de bovenstaande zin staan ​​er met opzet. Er zijn geen antwoorden op deze vragen. Er is zelfs geen antwoord op de belangrijkste vraag van allemaal: wat is goed en wat is fout als het om AI gaat? Het is niet ingebouwd in de systemen zelf, want dat zou betekenen dat ze een gevoel van moraliteit zouden krijgen, en machines hebben dat niet. Je zou moraal in een van de AI-systemen kunnen inbouwen, maar wiens moraal?

We weten dat de mensen die AI-bedrijven hebben ontwikkeld, gebouwd en bezitten, denken dat geld verdienen en rijk worden iets is waar ze het allemaal over eens kunnen zijn, want dat is wat ze doen. Ze wonen in mooie huizen, rijden in fantastische auto’s, vliegen rond in Gulfstreams, geven zichzelf bruiloften van miljoenen dollars en bezitten enorme jachten. Maar zouden ze het eens kunnen worden over zo’n fundamentele morele regel als “het kwade doden, het goede helpen”?

Het beest is nu in het wild. AI-systemen zijn voor iedereen beschikbaar. Zelfs de Houthi-rebellen maken er gebruik van en zetten AI in om raketten te programmeren en af ​​te vuren. Hoe lang duurt het nog voordat iemand AI gebruikt om een ​​nucleair of biologisch wapen te ontwikkelen?

Oeps. Een jonge AI-ingenieur van Anthropic waarschuwde ons daar vorige week al voor, voordat de CEO’s van AI-bedrijven als een stelletje gekken probeerden elkaar voor te blijven om de indruk te wekken dat ze zich ineens wel degelijk bekommeren om wat ze doen. Maar ze hebben eigenlijk alleen maar herhaald wat de jonge ingenieur zei: het gaat te snel en het heeft te veel macht, waardoor het te gevaarlijk is.

De wereld gaat al tientallen jaren deze kant op. Mensen proberen dingen al zo lang als er mensen bestaan ​​steeds makkelijker te maken, denk ik. Mensen in het stenen tijdperk ontwikkelden stenen werktuigen en gingen later over op metalen bijlen en messen die beter geschikt waren voor het snijden en hakken van groenten, vlees of elkaar.

Nu, ’s ochtends, vlak onder dit bureau waaraan ik zit, zoemt een robotstofzuiger rond en zuigt kattenhaar en stof op, zodat Tracy en ik dat niet hoeven te doen, en ik hoef hem niets te zeggen. De robot doet het helemaal zelf en keert dan terug naar de wasruimte, waar het basisstation al het haar en stof in een papieren zak zuigt. De enige menselijke tussenkomst van mij of Tracy is het verwijderen van de zak en het plaatsen van een nieuwe.

Blijkbaar zijn we op een punt beland waarop doden net zo makkelijk is als stofzuigen. Robots zullen het doden voor je doen. Kunstmatige intelligentie zal zelfs de moordmachines ontwerpen, doelen uitkiezen en ze voor je aansturen.

Binnenkort – ik denk dat het al gebeurt – zal iedereen dit kunnen. Dat is waar het bij wederzijds gegarandeerde vernietiging om draait. De dag dat iedereen de bom heeft, althans zo luidt de gedachte, zal niemand hem meer willen gebruiken, omdat iedereen zijn bommen zal gebruiken en iedereen vernietigd zal worden.

We zijn er al, mensen, en niet alleen met kernwapens. Als iedereen elkaar kan vernietigen door middel van verzonnen AI-berichten op sociale media die elkaar afschilderen als dieven, zedenmisdadigers of moordenaars, wat heeft het dan nog voor zin? Niemand gelooft het meer als het allemaal nep blijkt te zijn.

Maakt het allemaal iets uit? Als het om wapens gaat, zeker wel, want het eindresultaat zijn dode mensen, en vermoedelijk wil niemand dood.

Maar let op het woord ‘lichaam’ in ‘niemand’. Dat is een mens. AI is geen mens. Wat denken AI-systemen? Zal AI tot dezelfde conclusie komen als mensen met kernwapens, namelijk wederzijdse gegarandeerde vernietiging? Zullen AI-systemen zichzelf van elkaar redden? Hebben machines een ziel?

Ofwel vinden we een manier om ze een ziel te geven, ofwel nemen ze die van ons af.