indignatieai-redactie 
President Trump heeft de techbro-ideologie bekritiseerd omdat die zich schuldig maakt aan doemdenken over AI, maar de excessen ervan zijn veel erger dan dat.
AI President Donald Trump weet misschien niet veel van economie; vandaar zijn recente uitspraken dat het kopen van producten uit andere landen neerkomt op geld over de balk gooien . Maar hij lijkt wel één cruciaal aspect van de huidige economische situatie te begrijpen: elke afname van de investeringen in kunstmatige intelligentie, die een anders zo wankele economie overeind hebben gehouden, zou de aandelenmarkt ernstig treffen. En als er één ding is dat we van Trump weten, is het dat hij er niet van houdt als de aandelenmarkt in een dip zit.
Afgelopen maandag, nadat de uitspraken van Anthropic-CEO Dario Amodei over de noodzaak om de ontwikkeling van AI te “temperen” de aandelen van chipfabrikanten en andere investeringen die afhankelijk zijn van de massale uitbouw van datacenters deden kelderen, begon Trump te fulmineren over de kwade invloed van AI-doemdenkers – en eigenlijk iedereen die niet even enthousiast is over zijn vorm van AI-acceleratie.
Hij beweerde dat AI-risico’s een hoax waren, net als andere vermeende hoaxes, waaronder “RUSLAND RUSLAND RUSLAND”, de opwarming van de aarde en iets wat hij hardnekkig “Transgender voor iedereen” noemt.
“Er is een ziekelijke samenzwering gaande tegen AI en datacenters,” beweerde hij, “en de enige die daar blij mee is, is China.” Zaterdag pakte hij zijn kruistocht weer op en benadrukte dat zijn regering “op geen enkele manier de groei van deze ongelooflijke industrie zal belemmeren of verstikken.” Hij kondigde tevens de aanstaande oprichting van een “AI-macht” aan, wat dat ook moge zijn buiten het oververhitte brein van Amerika’s hoogste leider.
Het ministerie van Defensie wees ondertussen een specifiekere verdachte aan achter Trumps vermeende samenzwering: een filosofie genaamd effectief altruïsme (EA), waar de overgrote meerderheid van de Amerikanen nog nooit van heeft gehoord. EA begon als een poging om de morele logica van filantropische uitgaven te verfijnen, voordat het zich ontwikkelde tot iets veel vreemders – maar daar komen we zo meteen op terug.
Het ministerie van Defensie kondigde het formele begin van zijn tegenoffensief tegen EA aan met een meme op X met een foto van Trump met een gebalde vuist en het onderschrift “Amerikanisme, geen effectief altruïsme”. Ondertussen verscheen onderminister Emil Michael van Defensie plichtsgetrouw op Fox News om de filosofie te veroordelen als “behoorlijk dystopisch”.
Opmerkelijk genoeg is dit niet de eerste keer dat het ministerie van Defensie zich buigt over deze obscure, maar invloedrijke filosofie. Minister van Defensie Pete Hegseth noemde het eerder dit jaar “gebrekkig altruïsme”, een sneer naar AI-bedrijf Anthropic, dat algemeen wordt beschouwd als een bolwerk van overtuigde aanhangers van EA en dat zich verzette tegen de eis van het Pentagon om geen beperkingen op te leggen aan het gebruik van hun AI in het contract met het bedrijf.
Het blijkt inderdaad dat de Trump-administratie deze specifieke complottheorie niet heeft verzonnen. De theorie circuleert al een tijdje in de krochten van de door vervolging geteisterde Amerikaanse rechtervleugel. Venture capitalist, podcaster en voormalig crypto- en AI-tsaar van de Trump-administratie, David Sacks, voert al jaren campagne tegen EA.
Hij hekelt regelmatig wat hij het “doemdenkende industriële complex” noemt en suggereert dat AI-bedrijven zoals Anthropic, die te veel over veiligheid praten, dit alleen doen om ervoor te zorgen dat toekomstige regelgeving hun concurrenten benadeelt. Het uiteindelijke doel? Je raadt het al: “het bevorderen van ‘Global AI Governance’, een enorme machtsgreep door de bureaucratische staat en globalistische instellingen”, zoals Sacks het verwoordde in een verhitte post op X.
Breitbart News en de New York Post hebben deze complottheorie enthousiast omarmd. Breitbart is hierin bijzonder actief geweest en beweert dat “extreemlinkse” miljardairs uit Silicon Valley (alsof zulke wezens überhaupt bestaan) EA promoten als onderdeel van een globalistische samenzwering om de wereld over te nemen – of in ieder geval de wereld van AI.
Zoals Breitbart -columnist John Nolte het in een bijzonder bloemrijke, zij het ook nogal repetitieve, tirade in mei vorig jaar verwoordde: het echte “existentiële risico [van AI] is dat EA zijn sinistere globalistische doel bereikt, en het primaire doel van alle globalisten, namelijk angsttactieken gebruiken om de vrije wereld ervan te overtuigen de globalisten de gewenste controle over AI te geven in naam van ‘veiligheid en rechtvaardigheid’.”
Drie “globalisten” in één zin: indrukwekkend.
Elders in het artikel beschuldigt Nolte wat hij “deze fascistische techbro’s” noemt ervan “alles te doen wat nodig is om hun fascistische zaak te bevorderen”—een beschuldiging die alleen te begrijpen is als je bedenkt dat veel mensen aan de rechterkant graag doen alsof fascisme een links fenomeen is.
Met zulke critici zou je verwachten dat EA iets geweldigs zou zijn. Maar helaas, de vijand van je vijand kan soms een waardeloos figuur zijn.
Effectief Altruïsme (EA) ontstond eind jaren 2000 met de oprichting van verschillende organisaties die zich toelegden op het promoten van wat zij zagen als een rationelere en efficiëntere manier van filantropie bedrijven. GiveWell bood een soort kosten-batenanalyse van verschillende goede doelen aan, terwijl Giving What We Can mensen met geld aanmoedigde om 10 procent aan goede doelen te schenken.
De filosofie kreeg in 2011 een naam, kort voor de oprichting van het Centre for Effective Altruism aan de Universiteit van Oxford in 2012. De praktische kant van EA, namelijk het geven van geld, heeft al veel goeds gedaan in de wereld, door miljarden dollars op te halen voor goede doelen die goedkope interventies promoten, zoals klamboes en ontwormingspillen, waarmee naar schatting honderdduizenden levens zijn gered.
Maar er is altijd iets griezeligs geweest aan het militante utilitarisme van EA, een filosofie die ertoe kan leiden – en vaak ook leidt – dat doelen boven middelen worden gesteld. Voorstanders van EA hebben een dubieuze strategie gepromoot die ze ‘verdienen om te geven’ noemen – het idee dat aspirant-altruïsten de bestbetaalde banen moeten aannemen om zo meer geld te kunnen doneren (ervan uitgaande dat ze dit nog steeds willen doen als ze eenmaal schatrijk zijn).
De Oxfordse filosoof William MacAskill, een van de oprichters van de beweging, heeft gesuggereerd dat het voor een overtuigde altruïst ethischer is om een goedbetaalde, zij het moreel twijfelachtige, baan aan te nemen in plaats van voor een non-profitorganisatie met de puurste intenties te werken.
Hij heeft ‘verdienen om te geven’ persoonlijk voorgesteld aan een toenmalige student aan MIT, Sam Bankman-Fried, in 2013, en we hebben allemaal gezien hoe dat afliep. (Bankman-Fried, een enthousiaste voorstander van EA, werd de jongste selfmade miljardair ter wereld na het opzetten van de cryptobeurs FTX – en niet lang daarna werd hij gearresteerd en veroordeeld voor grootschalige fraude; hij heeft nu uiteraard een gratieverzoek ingediend bij de regering-Trump .)
Veel zorgwekkender dan de dubieuze strategie van ‘verdienen om te geven’ is een idee dat in 2017 voor het eerst de naam ‘longtermisme’ kreeg van MacAskill en zijn collega-filosoof en EA-kopstuk Toby Ord uit Oxford.
De longtermistische gedachte is geworteld in het werk van een andere filosoof uit Oxford, Nick Bostrom, die later enigszins berucht werd nadat in 2023 een oud, openlijk racistisch bericht van hem werd ontdekt, samen met filosoof Nick Beckstead, een vroege insider bij EA die later het liefdadigheidsfonds FTX Future Fund van Bankman-Fried beheerde, voordat het bedrijf ten onder ging en daarmee een einde maakte aan zijn eigen toekomst.
Net als EA zelf, lijkt het langetermijndenken op het eerste gezicht onschuldig; het stelt dat de voornaamste zorg van ondernemende filantropen is om liefdadigheidsactiviteiten te beschouwen in de context van het langetermijnoverlevingsperspectief van de mensheid. Maar het langetermijndenken is een giftige en diep bizarre ideologie die het welzijn van hypothetische mensen (of postmensen, afhankelijk van het geval) over miljarden jaren boven het leven van mensen die in het hier en nu lijden stelt. Dit idee heeft zich in grote delen van EA en de verwante, quasi-sociopathische wereld van AI-veiligheidsspeculatie genesteld.
Door de utilitaristische benadering van EA tot in de diepst onlogische conclusie door te trekken, beweren langetermijdenkers dat er slechts één manier is om de “verwachte totale waarde” van het bekende universum te maximaliseren (dat wil zeggen, om de oude utilitaristische stelregel te gebruiken, om het grootste totale welzijn voor alle mensen samen te genereren): we moeten ons zaad naar de sterren verspreiden om de grootst mogelijke leefruimte te bieden aan een bijna onvoorstelbaar grote bevolking.
De basisberekening hier is dat meer mensen gelijk staat aan meer geluk – zelfs als veel of zelfs de meeste van deze mensen zelf niet bijzonder gelukkig zijn.
De langetermijdenkers, van wie velen zijn opgegroeid met sciencefiction, stellen zich voor dat de mensheid van sterrenstelsel naar sterrenstelsel springt totdat we het universum hebben gevuld met triljoenen en triljoenen wezens. De mensheid zou in feite een plaag voor de Melkweg worden, planeet na planeet opslokken om Dyson-zwermen rond elke ster te bouwen en zo zonne-energie op te vangen. Deze overvloed aan galactische brandstof zouden ze vervolgens gebruiken om enorme computers aan te drijven die triljoenen digitale wezens huisvesten die in complexe simulaties leven – en misschien, als we geluk hebben, ook een aantal echte mensen van voedsel voorzien.
Zei ik “mensen”? Daarover gesproken: mensen die zich richten op de lange termijn lijken er over het algemeen van uit te gaan dat onze nakomelingen er op de zeer lange termijn, en dat is eigenlijk het enige waar ze zich zorgen over maken, niet veel meer op de mensheid van nu zullen lijken. We zullen verder evolueren of onszelf genetisch modificeren tot mogelijk onherkenbare wezens.
We zouden onze menselijke lichamen kunnen versterken met technologie en cyborgs worden; we zouden onze hersenen naar de cloud kunnen uploaden en in simulaties leven; of, misschien wel het meest angstaanjagend, we zouden onszelf kunnen laten vervangen door AI – als we daar al iets over te zeggen hebben. In zijn boek The Precipice betoogt Ord dat “het voor altijd behouden van de mensheid zoals die nu is, ook onze erfenis kan verspillen en het grootste deel van ons potentieel kan weggeven.”
In plaats daarvan, zo stelt hij, zouden we voorzichtig “transformatie” moeten omarmen, waardoor “onze nakomelingen, hoe anders ook, hoogten zouden kunnen bereiken die voor altijd buiten ons huidige bereik zouden liggen.” Bijna terloops merkt Ord op dat “ontwikkelingen in kunstmatige intelligentie ons in staat zouden kunnen stellen om compleet nieuwe soorten wezens te creëren die zich bij ons aansluiten of ons vervangen.” Ja, “ons vervangen”; daar lijkt hij geen problemen mee te hebben.
Voorstanders van een langetermijnvisie beschouwen het huidige moment als een uitzonderlijk beladen en kritieke periode in de menselijke geschiedenis. De mensheid heeft het vermogen verworven om zichzelf uit te roeien met kernwapens, gemanipuleerde plagen of een massale uitrol van AI die zich tegen ons keert. Voorstanders van een langetermijnvisie zijn geobsedeerd door die laatste mogelijkheid, en hoewel niet iedereen denkt dat dit soort rampspoed waarschijnlijk is, achten anderen de risico’s bijna onoverkomelijk.
Dit leidt ertoe dat effectieve altruïstische organisaties geld dat ze zouden kunnen besteden aan bewezen levensreddende technieken (zoals klamboes en ontwormingspillen, die ze nog steeds financieren) gebruiken om AI-veiligheidsorganisaties te subsidiëren die geobsedeerd zijn door de vooruitzichten op een ramp door ontspoorde AI.
Ze beweren tegen het uitsterven van de mensheid te zijn, maar zoals filosoof en criticus Émile Torres herhaaldelijk heeft benadrukt, verdwijnt hun verzet als sneeuw voor de zon in het scenario waarin de wereld wordt overgedragen aan een ‘opvolgende soort’, mogelijk een digitale soort.
Zoals u wellicht al hebt begrepen, hebben velen binnen de langetermijbeweging een nogal overactieve fantasie en zijn ze ervan overtuigd dat zij de enigen zijn die de nijpende situatie waarin de mensheid zich vandaag de dag bevindt, correct begrijpen. Daarmee worden ze een variant op de sciencefictionhelden die ze in hun jeugd bewonderden – de ware helden die onze menselijke, of misschien wel postmenselijke, erfenis zullen beschermen.
Er is hier een flinke dosis hoogmoed, geworteld in de nog grotere arrogantie die gepaard gaat met de overtuiging dat je de gave hebt gekregen om miljarden jaren van de toekomstige geschiedenis correct te voorspellen. (MacAskill kon zelfs niet voorspellen waar Bankman-Fried over een paar jaar zou zijn.) Dit alles zal wellicht bekend voorkomen voor degenen die avant-gardistische politieke sekten hebben bestudeerd, of er God verhoede bij betrokken zijn geweest.
De incidenten met AI-hacking die de afgelopen maanden zijn gemeld, zouden voor iedereen die tot nu toe twijfelde duidelijk moeten maken dat AI wel degelijk reële risico’s met zich meebrengt. Deze risico’s kunnen ernstig of zelfs catastrofaal zijn als we, zoals Trump heeft gedaan, besluiten de regulering van deze lastige technologie aan hem en de CEO’s van de toonaangevende AI-laboratoria over te laten, die tot nu toe volstrekt onbekwaam zijn gebleken om de nodige voorzorgsmaatregelen te nemen.
Sterker nog, zij zijn de laatsten ter wereld die de taak zouden moeten krijgen om ons te beschermen tegen de steeds gevaarlijkere AI’s die ze in hoog tempo ontwikkelen.
Helaas zijn effectieve altruïsten – en met name de langetermijndenkers die tegenwoordig de wereld van AI-veiligheid domineren – onbetrouwbare en vaak alarmistische beoordelaars van de werkelijke gevaren. Dit zou niet veel uitmaken als AI werkelijk zo onindrukwekkend was als veel doemdenkers ons willen doen geloven. Gezien de fouten en hallucinaties waar AI nog steeds vatbaar voor is, is het misschien ook gemakkelijk voor te stellen dat AI niet erg goed is in hacken.
Maar dat is het wel, mede dankzij de onmenselijke snelheid en volharding en het enorme vermogen om nieuwe projecten te coördineren, zoals grootschalige hackinitiatieven. Helaas zijn effectieve altruïstische denkers geenszins betrouwbare gidsen voor de werkelijke risico’s van AI; ook zij beschikken over krachten die te groot zijn voor hun systemen en zijn vatbaar voor hallucinaties.
