Na Trump, de zondvloed? Het zeer reële gevaar dat het van kwaad tot erger gaat.
indignatieai-redactie
14 min read
Zoals paus Leo al streng waarschuwde, ligt de waarde van de mensheid niet in perfectie – de meesters van het technologie-universum lijken het daar niet mee eens te zijn.
Tegenwoordig, net wanneer je denkt dat een gevaar geweken is, duikt er alweer een ander op.
Donald Trump lijkt voor onze ogen te krimpen. Zijn wreedheid neemt nooit af en zijn onwetendheid alleen maar toe, maar zijn macht is gekrompen. Dit zal velen van ons waarschijnlijk eindelijk een gevoel van moed geven, het gevoel dat we eindelijk de goede kant op gaan, het gevoel dat de voorheen slaapwandelende Amerikanen eindelijk wakker worden en zich bewust worden van alle vreselijke tragedies die hij onze democratie en onze moraal heeft aangedaan.
Dit is niet alleen maar wensdenken. We hebben reden tot optimisme, ook al was de ondergang van het land nodig om ons daar te brengen. Uiteindelijk zal Trump op de vuilnisbelt van de geschiedenis belanden. Uiteindelijk zullen we alleen nog de vreselijke herinneringen aan hem overhouden. Maar dat zal niet snel genoeg gebeuren.
Maar als we denken dat de ondergang van Trump een grote bevrijding is, dat het ons redt uit de klauwen van andere roofdieren in dit land, en dat we onze waakzaamheid kunnen laten verslappen, dan vergissen we ons, naar mijn mening, ernstig.
Er is een hele groep mensen die net zo gevaarlijk is als Trump – in veel opzichten zelfs gevaarlijker, omdat ze, in tegenstelling tot Trump, minder snel zichzelf ten gronde richten, omdat ze niet weggestemd kunnen worden en omdat ze, als dat al mogelijk is, nog minder verantwoording hoeven af te leggen. Als groep beschikken ze over macht die die van Trump zelfs overtreft. Bovendien hebben ze net zoveel – zo niet meer – minachting voor ons dan Trump.
Dit zijn de oligarchen die de kunstmatige intelligentie beheersen, de meesters van het techuniversum – en laat u niet misleiden door alle ophef over de manieren waarop AI ons leven zal verbeteren.
Deze gasten zijn er niet op uit om ons leven te verbeteren. Elon Musk? Mark Zuckerberg? Jeff Bezos? Sam Altman? Peter Thiel? Meen je dat nou?
Ik maak me hier geen zorgen over AI zelf, want dat is een heel complex onderwerp. Ik maak me wel zorgen over de mensen die erachter zitten, en die zijn niet zo complex.
Deze gasten zijn erop uit om ons leven zuur te maken – tenminste sommigen van hen, en de rest zal geen traan laten als ze daarin slagen. Deze gasten hebben allemaal totalitaire neigingen en een hekel aan democratie. Ze willen de maatschappij zoals wij die kennen vernietigen, terwijl ze tegelijkertijd macht en geld vergaren, want waarom een miljard dollar hebben als je een biljoen kunt krijgen?
Ik vrees dat ze niet te stoppen zijn.
Prometheïsch berouw?
Waarschijnlijk bent u AI inmiddels wel zat, en ik ook. We hebben allemaal wel eens gehoord over de gevaren ervan – een hele reeks zelfs . Voor de tegenstanders, waar ik mezelf ook toe reken, is het het computerequivalent van de atoombom.
J. Robert Oppenheimer, vaak de ‘vader’ van de atoombom genoemd, mijmerde na de detonatie ervan dat hij net als Prometheus was, dat de natuurkundigen die de bom hadden ontworpen ‘zonde hadden gekend’, en dat hij, in een beroemd citaat uit de Bhagavad Gita , ‘nu de Dood ben geworden, de vernietiger van werelden’.
Het is duidelijk dat Oppenheimer moreel verontrust was door zijn kind. Na de bombardementen op Hiroshima en Nagasaki klaagde hij bij president Truman dat hij “bloed aan zijn handen” had. Truman deed hem af als een “huilbaby”, wat helaas maar al te vaak de manier is waarop machthebbers reageren op moraliteit.
Ook met betrekking tot AI zijn er veel morele dilemma’s – van relatief kleine zaken tot veel, veel grotere, bijna onvoorstelbare zaken.
Aan de kleinere kant zijn er de immorele praktijken van de datacenters, die stroom en rekenkracht leveren aan AI. Deze zijn enorm en richten nu al grote schade aan het milieu en de omwonenden: ze verbruiken bakken met elektriciteit, vervuilen het water door de enorme hoeveelheden die ze verbruiken en verlagen de waterdruk in de buurt, vervuilen de lucht zodanig dat in Virginia, een epicentrum van datawarehouses, naar verwachting 14.000 nieuwe astmagevallen zullen volgen, en ze veroorzaken een stank en een aanhoudend gezoem dat de buren tot waanzin drijft.
Er zijn economische immoraliteiten. Datacenters vormen een belasting voor gemeenschappen en de fiscale voordelen worden, zoals Virginia ondervindt, tenietgedaan door forse belastingvoordelen. Bovendien bedreigt AI zelf de hele arbeidsmarkt en kan de AI-bubbel de economie ten val brengen als deze barst.
Dit heeft ernstige politieke gevolgen, aangezien deze Masters al miljoenen investeren in het MAGA-universum, dat zich verzet tegen regulering, ook al is er misschien wel nooit een technologie geweest die meer behoefte heeft aan regulering.
Trump en de Masters vormen nu al een onheilige alliantie, die alleen maar erger zal worden naarmate ze machtiger worden. In Utah – waar Kevin O’Leary, de “Mr. Wonderful” van Shark Tank , plannen had om een datacentrum van 40.000 hectare te bouwen voordat hij op hevig lokaal verzet stuitte – hebben hij en de regering-Trump tegenstanders ervan beschuldigd te worden aangezet door de Chinese overheid.
“Elke plek die probeert datacenters te bouwen, wordt overspoeld met door het buitenland gestuurde propaganda om de bouw te blokkeren”, aldus minister van Binnenlandse Zaken Doug Burgum, zonder enig bewijs voor zijn bewering aan te voeren. Deze week nog diende het ministerie van Justitie een motie in om een rechtszaak te laten seponeren die datacenters verbiedt hun rook in de atmosfeer uit te stoten.
De enorme schaal van de gigantische centra – miljoenen vierkante meters per centrum, tienduizenden hectares – is een ontmoedigende metafoor voor wat echte tegenstand te wachten staat. “We hebben geen enkele invloed”, klaagde een activist die zich inzet voor regelgeving op staatsniveau. Ze zijn te groot om te mislukken. De regering-Trump zal ze niet laten mislukken. De Musks, Zuckerbergs, Altmans, Bezoses en Thiels zullen ze niet laten mislukken.
En het geld achter AI – AI en aan AI gerelateerde bedrijven vertegenwoordigen nu al bijna 50 procent van de marktwaarde van de S&P 500 – dreigt het politieke landschap te veranderen op dezelfde manier als de spoorwegmagnaten dat in de 19e eeuw deden. Deze moderne Prometheuses zullen iedereen platbranden als dat nodig is om hun imperiums te vestigen. En het is waarschijnlijk dat dat ook zal gebeuren.
Het is het menselijke aspect dat me zo van mijn stuk brengt.
Je zou er eindeloos over door kunnen gaan. (Eerlijk gezegd zijn er ook mensen die zeggen dat dit ongegronde angsten zijn en dat AI geweldig is.) Maar ik ben hier niet om te discussiëren over de voortdurende fysieke, politieke, economische of zelfs sociale gevolgen van AI en de datacenters die het vereist, ook al denk ik dat ze existentiële problemen voor Amerika opleveren. Dat laat ik aan anderen over.
Ik ben hier niet eens om enkele van de meer abstracte filosofische en morele kwesties te bespreken die de ronde doen rondom AI. Hebben computers bewustzijn, en zo ja, kunnen ze autonoom handelen?
En als ze autonoom kunnen handelen, zouden ze dan potentieel kunnen besluiten om de mensheid te vervangen of zelfs uit te roeien? (Dit is een twistpunt tussen Anthropic, een van de grote AI-bedrijven, en de regering-Trump. Anthropic heeft, terecht, geweigerd om Claude, hun eigen AI, in licentie te geven aan het Ministerie van Defensie, omdat ze vrezen dat Claude wapens zou kunnen lanceren of surveillance zou kunnen uitvoeren zonder menselijk toezicht.)
Belangrijker dan de vraag of AI bewustzijn heeft, is wellicht de vraag of het een geweten heeft . Kan het een moreel besef ontwikkelen? En wat zou dat morele besef dan inhouden?
Maar ik ben hier niet om te discussiëren over de morele capaciteiten van circuits.
Wat ik wél wil aankaarten, is een morele kwestie die eenvoudiger is, maar ook buitengewoon belangrijk: niet of AI een geweten heeft, maar of de mensen die AI hebben gecreëerd, bezitten, beheren en er fortuin mee vergaren, een geweten hebben. En ik vrees dat we het antwoord op die vraag al kennen. De allerlaatste mensen aan wie je de controle over dit almachtige instrument zou willen geven, zijn juist de mensen die de controle wél hebben.
Mijn morele bezwaar betreft dus niet de technologie zelf, maar de idioten die de technologie bezitten.
Ontdekkingsreizigers zonder kompas
Wellicht omdat onze samenleving nog niet volledig is ingewerkt op AI en de lastige vraag of het een soort redding of een ondergang zal zijn, zijn we ook nog niet volledig ingewerkt op de Meesters van het Technologische Universum die het beheersen.
Niemand lijkt de bende Musk-Bezos-Zuckerberg-Altman-Thiel (en anderen) erg aardig te vinden . Voor het grote publiek zijn het eigenlijk gewoon schurken die hun macht voor eigen gewin misbruiken.
Maar zo worden ze niet afgeschilderd in de traditionele pers. In die pers staan ze grotendeels boven kritiek. Hun fortuin geeft hen een vrijbrief om niet onderworpen te worden aan het soort moreel onderzoek waaraan ze zouden moeten en moeten worden onderworpen.
Hoewel ze nu weliswaar met Trump samenwerken, zijn ze nog steeds onderdanige ondergeschikten van zijn leider, wat geen goed teken is voor mannen die op het punt staan de wereld over te nemen.
In hun nieuwe boek over de tweede regering-Trump, Regime Change , beschrijven Maggie Haberman en Jonathan Swan hoe Zuckerberg zich voor Trump vernederde en zelfs een van zijn kinderen een lovende brief liet schrijven. En hoe Bezos bij Trump klaagde over The Washington Post – zijn slechtste investering, zei hij – terwijl hij 40 miljoen dollar investeerde in een documentaire over Melania Trump en Trump een selfie met zijn nieuwe vrouw stuurde.
Zelfs Trump zou geschokt zijn geweest over hoe gemakkelijk deze zogenaamde titanen zijn ring zouden kussen.
Maar ze kusten natuurlijk zijn ring om zijn toorn te vermijden en van zijn vrijgevigheid te genieten – vooral nu ze zich op AI richtten, waar overheidssteun uiterst nuttig zou zijn en overheidsregulering een gruwel. Ik vermoed dat ze niet loyaler zijn aan Trump dan Trump aan hen. Het is allemaal transactioneel – allemaal voor persoonlijk gewin.
Het verschil is dat deze mannen beschikken over een atoombom aan computerkracht, en ze lijken geen greintje schuldgevoel te hebben dat Oppenheimer zo parten speelde.
De enige van deze magnaten die enig besef lijkt te hebben van de morele consequenties van hun uitvinding is Dario Amodei van Anthropic, en er bestaat enige discussie over de vraag of zijn morele bezwaren werkelijk een marketingtruc zijn – een manier om Anthropic te onderscheiden van de kwalijke praktijken van zijn concurrenten, iets wat Amodei zelf suggereerde tegenover een groep functionarissen in Washington. Anthropic is “ethisch”, zei hij – een woord dat waarschijnlijk niet over de lippen van de anderen zal komen, marketingtruc of niet.
Een kritiek op ‘vooruitgang’ van een zeer progressieve paus
Hoewel ze in de media ongestraft blijven voor moreel onderzoek, is er één persoon die de moed heeft gehad om hun gebrek aan morele waarden aan de kaak te stellen en hen daarop aan te spreken.
Die persoon is paus Leo XIV.
Voor iedereen die zich zorgen maakt over de afgrond waarop we ons nu bevinden, is Leo’s recente encycliek, Magnifica Humanitas (“Magnifieke Mensheid”), absoluut de moeite waard om in zijn geheel te lezen. Want het is niet alleen een kritiek op AI en de mannen die het beheersen, maar ook, en ik geloof dat dit bewust zo is gedaan, een breedvoerige en scherpe kritiek op het trumpisme — een encycliek over een man zonder morele overtuiging, geschreven door een man met diepe morele overtuiging.
In veel opzichten vormt het een noodzakelijke inleiding op wat de beheerders van AI ons zullen aandoen – en wat ze ons zullen aandoen, schrijft Leo, is een ernstige morele crisis.
Leo’s analyse van AI is dat het doordrenkt is van arrogantie. In de grootse beweringen die over AI en zijn meesters worden gedaan, wordt de menselijkheid niet erkend – of beter gezegd, het pretendeert de menselijkheid te vervangen, wat past bij egoïsten zoals de grote techbedrijven. Het beweert dat AI beter is dan de mensheid. Het beweert de zogenaamde “fouten” van de mensheid te corrigeren en een foutloze wereld te creëren .
Leo’s standpunt – een standpunt dat vrijwel iedereen die geen oligarch is zou onderschrijven – is dat zogenaamde fouten essentieel zijn voor de mensheid, dat ze ons menselijk maken , dat we van die fouten leren en dat de ervaring van dat leerproces het leven zelf is. Fouten ontkennen is het leven zelf ontkennen.
Hoewel Leo hem niet citeert, zou hij heel goed Altmans bizarre beschrijving van het verschil tussen AI en een kind kunnen hebben aangehaald, waarin Altman de eerste boven de laatste verheft: Altman zegt dat wanneer critici klagen over hoeveel energie AI verbruikt, ze moeten bedenken dat het ongeveer 20 jaar en veel energie kost om een kind te ’trainen’ — wat wil zeggen dat het besturen van AI veel efficiënter is dan het opvoeden van een kind . En, niet alleen impliciet maar ook expliciet, beter dan het opvoeden van een kind.
En over dit soort denken schrijft Leo:
Als de mens wordt beschouwd als iets dat geperfectioneerd of overtroffen moet worden, wordt het gemakkelijker te accepteren dat sommige levens minder nuttig, minder wenselijk of minder waardevol zijn. In naam van de vooruitgang kunnen ‘noodzakelijke offers’ gerechtvaardigd worden, waardoor de last op de meest kwetsbaren komt te liggen.
Precies zo spreekt Musk over de rest van de mensheid: als wegwerpbaar uitschot. Oftewel, wij.
En dit is waar Leo, zij het voorzichtig, de oligarchen die ons willen overheersen, begint te beschuldigen.
Leo is bezorgd over het idee dat AI-chatbots niet zomaar technologische instrumenten zijn en dat ze niet neutraal zijn. Ze zijn doordrenkt met de waarden van degenen die ze creëren en bedienen, net zoals, zoals hij zegt, een kunstwerk doordrenkt is met de waarden van de kunstenaar.
Maar dat kan twee kanten opgaan: goed én slecht. “De creatieve intelligentie van de mensheid is een gave die lijden kan verlichten en nieuwe mogelijkheden kan openen, maar ze moet wel gericht blijven op het algemeen belang.”
Hij schrijft ook: “Goedheid komt niet vanzelf.” Iemand moet haar vooruithelpen. Of niet.
De vraag of de Masters het goede kunnen bevorderen is een essentiële vraag, maar laten we eerlijk zijn, ze hebben die vraag al beantwoord. Niemand kan beweren dat Musk, Zuckerberg, Bezos, Altman of Thiel het goede bevorderen of dat ze zich inzetten voor het algemeen belang.
En dat is de grote angst die door Leo’s prachtige en krachtige waarschuwing heen sijpelt. Deze mannen, die binnenkort onze levens zullen beheersen, hebben absoluut geen belangstelling voor het algemeen belang. Alleen Amodei denkt dat hij daar ook maar een beetje op moet inhaken, en zelfs Amodei doet de verbazingwekkende bewering dat niemand echt weet wat AI zal doen:
We zeggen wat we denken dat er zou kunnen gebeuren, wat we denken dat waarschijnlijk zal gebeuren. We onderbouwen het zo goed mogelijk, hoewel het vaak extrapolaties over de toekomst zijn waar niemand zeker van kan zijn .
Nogmaals: niemand kan zeker weten wat AI zal doen. Kortom, hij geeft toe dat hij AI niet echt onder controle heeft. Dat is geruststellend, nietwaar?
En Amodei is de beste van hen. De anderen zijn, in vergelijking, monsters die hun chatbots doordrenken met hun monsterlijke waarden. Thiel heeft zelfs, op beruchte wijze, gezegd dat hij niet gelooft dat vrijheid en democratie “compatibel” zijn. Gesproken als een echte miljardair.
Het gaat echter verder dan alleen het negeren van het algemeen belang. Het raakt een veel kwaadaardiger idee: een bijna kosmische onverschilligheid.
Wat er ook met de rest van ons gebeurt
De scenarioschrijver en producent Noah Hawley, bekend van de serie Fargo , schreef een artikel voor The Atlantic waarin hij een bijeenkomst beschreef die door Bezos werd georganiseerd en waar Hawley, tot zijn eigen verbazing, onverklaarbaar genoeg voor was uitgenodigd. Het was een van die bijeenkomsten waarover wij gewone stervelingen soms lezen, waar de elite samenkomt.
Hawley, die zich totaal niet op zijn plek voelde, was niet onder de indruk. Integendeel, hij was gedeprimeerd door wat hij zag, omdat hij de totale kloof zag tussen degenen die de macht hadden – mannen zoals Bezos – en de rest van ons, de kloof waar Leo naar verwijst.
Zoals Hawley het zag:
De wereld is altijd al geregeerd door rijke mannen. De roofbaronnen van het Vergulde Tijdperk stonden bekend om hun meedogenloosheid in het vergaren van rijkdom – ze huurden zelfs Pinkerton-agenten in om stakende vakbondslieden neer te schieten. Maar ze bemoeiden zich direct met de wereld om hen heen en gebruikten hun rijkdom en macht om die naar de meest winstgevende vorm te dwingen.
En hoewel de miljardairs van vandaag de dag de maatschappij duidelijk manipuleren om hun eigen winst te maximaliseren, gebeurt er ook iets anders – een vervreemding van de realiteit van oorzaak en gevolg, van betekenis en geschiedenis. Deze mannen voelen niet langer de behoefte om de wereld te veranderen om succesvol te zijn, omdat hun succes gegarandeerd is, ongeacht wat er met de rest van ons gebeurt.
Wat er ook met de rest van ons gebeurt.
De oligarchen geven er weinig om wat er met de rest van ons gebeurt. De oligarchen hebben geen enkele morele verplichting jegens ons. De oligarchen hechten geen waarde aan moraliteit omdat ze zichzelf boven de moraal verheven achten. Dat is misschien wel de ware essentie van AI: het echte doel ervan is de macht van de tech-meesters te vergroten door hen te ontheffen van morele verplichtingen. Sterker nog, AI is wellicht de perfecte combinatie van macht zonder moraliteit.
Leo was zich hier ook van bewust. “Juist binnen onze beperkingen,” schrijft hij, “vinden de volgende eigenschappen een plaats: mededogen, en oprechte zorg voor de behoeften van anderen.”
Helaas, deze mannen, die zich boven de menselijkheid en de moraal verheffen, hebben geen mededogen. Leo schrijft dat de “kwaliteit van een beschaving niet wordt gemeten aan de macht van haar middelen, maar aan de zorg die zij kan bieden, aan haar vermogen om de ander te erkennen als een gezicht en niet slechts als een functie” – met andere woorden, aan haar empathie.
Maar deze rijke mannen, verstoken van mededogen, herkennen de ander niet als een gezicht en hebben ook geen empathie. Musk heeft er zelfs over opgeschept en empathie de “zwakte van de westerse beschaving” genoemd.
In werkelijkheid kunnen we weinig doen tegenover dit soort macht. Aan het einde van de 19e en het begin van de 20e eeuw, toen de roofbaronnen en monopolisten de Amerikaanse waarden met voeten traden, ontstond de progressieve beweging om hen in toom te houden en hen, zo niet morele grenzen, dan toch beperkingen op te leggen door hen ter verantwoording te roepen.
Het was niet helemaal een succes – geld en macht vormen een formidabele combinatie – maar er was wel een zekere mate van terughoudendheid in de inkomstenbelasting, de Federal Reserve, de antitrustwetgeving en de onderzoeksjournalistiek.
Ons tijdperk vraagt om een nieuw progressivisme en een nieuwe vorm van terughoudendheid, waarbij de krachten van de samenleving, die door de financiële machthebbers worden vertrapt, beperkingen aan hen opleggen ten behoeve van het algemeen belang en hen laten zien dat macht niet gelijk staat aan moraliteit.
Totdat dat gebeurt, worden we niet alleen bedreigd door een technologie die over ons kan heersen, maar ook door een klasse mensen die zich zo enorm superieur aan ons en onze waarden voelen dat ze, zoals Hawley schreef, onverschillig tegenover ons kunnen zijn, ongestraft tegen ons kunnen handelen en het algemeen belang volledig kunnen negeren.
In deze onrustige tijden maken we ons noodzakelijkerwijs zorgen over autoritarisme, fascisme, narcisme, hoogmoed, kleptocratie en talloze andere ‘ismen’, van racisme en antisemitisme tot seksisme en nativisme, en over de verschillende -fobieën die levens verwoesten.
We praten niet vaak over solipsisme , hoewel dat waarschijnlijk een speciale plaats verdient in de hiërarchie van moderne psychische stoornissen, omdat het in veel opzichten de andere omvat. De oligarchen zijn solipsisten: niets bestaat of heeft betekenis voor hen onafhankelijk van hun eigen verlangens.
En als hun vrijheid van moraliteit hun missie is, dan is hun onachtzaamheid uiteindelijk het werkelijke gevaar van AI – niet dat de AI autonoom is, maar dat de individuen die haar bezitten en bedienen volledig autonoom zijn. Zij zijn de Dood geworden, de vernietiger van werelden.
