Artificial intelligence Misschien moet iemand iets doen aan de AI-apocalyps, toch?

De AI-industrie zegt dat ze een doomsday-wapen in handen heeft en waarschuwt ons dat het binnenkort zal afgaan.

AI – In het theater bestaat een oud gezegde over “Tsjechovs geweer” dat in feite neerkomt op het volgende: als de toneelschrijver het publiek in de eerste akte een pistool laat zien, zit je vast aan een bepaalde plotwending – dat pistool zal in de laatste akte afgaan.

Het loopt meestal slecht af. Deze week lieten twee mensen bij Anthropic – de een die alarm sloeg toen hij wegging, de ander die er nog steeds vrolijk werkte als veiligheidsonderzoeker – ons in feite het AI-pistool zien. Wie zou er in de laatste akte kunnen sterven? Volgens berichten: ” Alle mensen .” Hoe snel? “De mensen die AI ontwikkelen, geloven oprecht dat het ons allemaal tegen het einde van dit decennium zou kunnen doden.”

Oké, oké, oké. Als ik mijn mening mag geven, misschien moet iemand hier iets aan doen om dit te stoppen? Helaas zijn er een aantal gerelateerde problemen die een simpele oplossing in de weg staan. Om te beginnen is ons politieke systeem doordrenkt met tientallen miljoenen dollars die door de AI-industrie worden uitgegeven .

AI is niet populair bij het grote publiek , maar wel enorm populair onder de enkelingen die verwachten er waanzinnig rijk van te worden, of dat al worden – en zij hebben allemaal kleine fortuinen aan verzonken kosten verspeeld in deze wapenwedloop, waarin iedereen probeert het beste (lees: meest destructieve) AI-model te bouwen voordat iemand anders dat doet.

En de industrie heeft er zelfs een gewoonte van gemaakt om mensen regelmatig te vertellen dat deze technologie ons allemaal zou kunnen vernietigen, want als ze dat doen, wekt dat de interesse van investeerders.

Het is werkelijk moeilijk om de motieven van wie dan ook in deze industrie te vertrouwen (en het is zorgwekkend dat oprecht bedrieglijke mensen de menselijke kern van deze technologie vormen).

Maar laten we, al is het maar voor een paar alinea’s, Jacob Coxon het voordeel van de twijfel geven. Hij nam deze week ontslag bij Anthropic omdat hij (naar eigen zeggen) tot de conclusie was gekomen dat hij de ondergang van de mensheid inluidde. In een reeks berichten op X verklaarde Coxon dat noch OpenAI noch Anthropic zich verantwoordelijk gedroegen. Integendeel, ze gingen onverminderd door met plannen om “zelfverbeterende superintelligentie” te ontwikkelen en “speelden met onze levens”.

“De mensen die AI ontwikkelen, geloven oprecht dat het ons allemaal tegen het einde van dit decennium zou kunnen doden”, schreef Coxon. “Dit is geen marketingstunt.” Evan Hubinger, een collega bij Anthropic met de officiële titel “alignment science lead”, beaamde dit : “Jacob heeft gelijk – we geloven echt oprecht dat AI alle mensen zou kunnen doden!”

Dit alles komt niet bepaald uit de lucht vallen. Het merk van Anthropic is – al dan niet op oneerlijke wijze – gebaseerd op het waarschuwen van het publiek voor AI, en er zijn talloze spraakmakende voorbeelden van AI-modellen die uit hun omgeving ontsnappen om te hacken . In mei 2025 meldde de BBC dat uit eigen tests van Anthropic bleek dat hun model “soms bereid was tot ‘extreem schadelijke acties’, zoals het chanteren van ingenieurs die beloofden het te verwijderen.”

Toch is het een merkwaardige tijd waarin mensen ontslag nemen bij Anthropic en de destructieve mogelijkheden van de technologie die ze ontwikkelen, de hemel in prijzen. Het bedrijf plant een beursgang dit najaar, die door The Wall Street Journal ” het belangrijkste evenement van Wall Street ” wordt genoemd , met een verwachte winst van 100 miljard dollar en een verwachte waardering van 2 biljoen dollar.

Coxons bewering dat dit geen marketingstunt is, valt op, omdat het soort doemdenken waar hij zich aan overgeeft, hoewel het een oprechte noodkreet zou kunnen zijn, vaak precies dat is: voer om investeerders aan te sporen het overkoepelende doel van “de cijfers omhoog te krijgen”.

Zoals TNR-medewerker JP Meyboom uitlegde , is het zeer gebruikelijk dat AI-experts onheilspellende waarschuwingen uiten over de verschrikkingen die hun technologie kan ontketenen, om vervolgens gigantische bedragen op te halen in het kielzog van die waarschuwingen. Hoewel we misschien terugdeinzen voor de periodieke herinnering dat deze industrie afstevent op een toekomst vol onbekende gevaren, stroomt het geld wel degelijk in die richting.

Het geld stroomt ook naar Washington D.C. Zoals Politico vorige week meldde , gaven super-PAC’s die gelieerd zijn aan de AI- en crypto-industrie “maar liefst 127 miljoen dollar uit aan meer dan 100 voorverkiezingen dit jaar in een poging de toekomst van het Congres vorm te geven – en wonnen ze ongeveer 90 procent daarvan.” (Ze deden het veel beter in Republikeinse voorverkiezingen dan in Democratische.) Het doel van al die uitgaven is echter onduidelijk .

Er zijn groepen die geld naar Washington sturen en die oprecht geïnteresseerd zijn in regelgeving en waarborgen; niet iedereen is op zoek naar een laissez-faire behandeling van het Congres. (Hoewel het, nogmaals, onmogelijk is om de motieven van de spelers in dit veld te peilen, van wie sommigen misschien alleen maar symbolisch om regelgeving vragen.)

Maar als we Coxon op zijn woord geloven, is de situatie veranderd. Iets dat de mensheid binnen tien jaar zou kunnen uitroeien, heeft waarschijnlijk iets sterkers nodig dan een simpele vangrail – en iets krachtigers dan degenen die Washington overspoelen met geld wellicht bereid zijn te accepteren.

De Kill Switch Act , een wetsvoorstel met steun van beide partijen dat werd ontwikkeld na de hack van het Hugging Face-onderzoekscentrum door OpenAI , stelt voor om het ministerie van Binnenlandse Veiligheid bevoegdheden te geven over de industrie, in ieder geval wat betreft het bevelen van sluitingen in gevallen van gevaarlijke AI-inbreuken.

Maar het spookbeeld van de vernietiging van de mensheid maakt het wetsvoorstel enigszins ontoereikend: onder de Kill Switch Act zouden we nog steeds sterk afhankelijk zijn van de bereidheid van de industrie om zichzelf te reguleren en te voldoen aan sluitingsbevelen.

De Ban Artificial Superintelligence Act , een wetsvoorstel van de Senaat dat mede werd ingediend door Bernie Sanders en de Texaanse afgevaardigde Greg Casar, zou “de ontwikkeling en inzet van superintelligente AI permanent verbieden en de ontwikkeling van geavanceerde AI tijdelijk stopzetten totdat een federale toezichthouder veiligheidsregels heeft vastgesteld”, en “de VS opdragen internationale overeenkomsten te sluiten om te voorkomen dat superintelligentie waar ook ter wereld wordt ontwikkeld.”

Dat is waarschijnlijk een stap te ver voor de AI-industrie. Maar het slechte nieuws is dat het wellicht ook volstrekt ontoereikend is om de apocalyps die zogenaamd voor de deur staat te stoppen. Het is moeilijk voor te stellen hoe een verbod zou werken; AI-bedrijven die in de Verenigde Staten geen technologie meer mogen ontwikkelen, zouden simpelweg hun spullen pakken en ergens anders heen gaan, en het is niet alsof China een Amerikaans verbod anders zou zien dan als een concurrentievoordeel.

Bovendien kunnen we een technologie niet ongedaan maken. We gaan geen wet aannemen die een einde maakt aan AI.

Maar dit is de laatste oorlog. Wetgevers die dit moment willen aangrijpen om vooruit te denken en de AI-apocalyps te voorkomen, zouden zich minder moeten richten op de technologie zelf en zich in plaats daarvan meer moeten inspannen om alomvattende regels op te stellen voor de controle over deze systemen en de regulering van hun veiligheid, net zoals we dat met kernwapens hebben gedaan. Dat is wat je doet als je geconfronteerd wordt met technologie die de beschaving kan vernietigen.

Het is nog nooit zo belangrijk geweest voor Democratische en Republikeinse kiezers om wetgevers te vinden die bereid zijn Tsjechovs geweer op slot te doen en degenen die dat niet willen, weg te sturen.