Paus Leo XIV pakt de oligarchie van Silicon Valley aan.

Encyclieken worden doorgaans aangeduid met de eerste paar woorden in het Latijn; deze vertaalt zich als “de pracht van de mensheid”. Die naam vormt een schril contrast met wat Leo beschrijft als de “nieuwe Toren van Babel”, die hij tegenover de Augustijnse Stad Gods plaatst. De andere nadruk ligt op de encycliek Rerum Novarum van paus Leo XIII uit 1891, waarin de leer van de kerk over sociale rechtvaardigheid werd uiteengezet te midden van de Tweede Industriële Revolutie, ofwel het Vergulde Tijdperk.

Leo XIII richtte zich op de benarde situatie van arbeiders in een snel moderniserende wereld. Hij verwierp zowel socialisme als communisme, evenals ongebreideld kapitalisme, en riep landen en regeringen op om eerlijke lonen en het recht op vakbondsvorming te garanderen, en de waardigheid van werk en arbeid te beschermen. De huidige paus gaf vanaf het begin blijk van zijn verwantschap met Leo XIII. Tijdens zijn eerste ontmoeting met kardinalen na het conclaaf vorig jaar legde Leo XIV uit dat hij zijn naam had aangenomen als een soort eerbetoon aan het werk van de vorige paus. Daartoe, zo vertelde hij de kardinalen, biedt de kerk “iedereen haar erfgoed van sociale leer aan om te reageren op een nieuwe industriële revolutie en de ontwikkelingen van kunstmatige intelligentie, die nieuwe uitdagingen vormen voor de verdediging van menselijke waardigheid, rechtvaardigheid en arbeid.”

“Hoewel veel van de historische omstandigheden die Leo XIII beschreef, zijn veranderd,” legde Leo XIV uit in Magnifica Humanitas, “blijven minstens twee inzichten vandaag de dag zeer relevant: de voorrang van menselijke arbeid boven elke denkwijze die zich uitsluitend richt op financiën of productiviteit – met de daaruit voortvloeiende aandacht voor de mensen en gezinnen die het meest kwetsbaar zijn voor uitbuiting – en de onlosmakelijke band tussen het verkondigen van het Evangelie en het nastreven van een rechtvaardigere maatschappelijke orde.”

Wat AI zelf betreft, merkte Leo terecht op dat er een veelvoorkomend misverstand bestaat over de technologie, namelijk dat deze slechts “bepaalde functies van menselijke intelligentie kan imiteren” en geen daadwerkelijk bewustzijn bezit. “Zogenaamde kunstmatige intelligenties ervaren niets, hebben geen lichaam, voelen geen vreugde of pijn, ontwikkelen zich niet door relaties en weten van binnenuit niet wat liefde, werk, vriendschap of verantwoordelijkheid betekenen,” legde hij uit. “Evenmin hebben ze een moreel geweten, omdat ze geen onderscheid kunnen maken tussen goed en kwaad, de uiteindelijke betekenis van situaties niet kunnen doorgronden en geen verantwoordelijkheid dragen voor de gevolgen.”

Leo riep op tot het ‘ontwapenen’ van AI, niet in militaire zin – hoewel hij dat elders in de encycliek wel aankaartte – maar om het ’te bevrijden van logica’s die het tot een instrument van overheersing, uitsluiting en dood maken’. De logische implicatie hiervan is dat AI momenteel juist die doelen dient. Leo verwierp ook ideologieën zoals transhumanisme en posthumanisme die ‘ een verbeterde en bijna ontlichaamde menselijkheid nastreven’ in naam van technologische ‘vooruitgang’.

Hoewel de paus de aanhangers van deze ideologieën niet direct bij naam noemde of citeerde, zijn ze niet moeilijk te vinden. De tech-oligarchs van Silicon Valley zijn vaak geobsedeerd door anti-verouderingstechnologieën en onsterfelijkheid zelf, in de hoop de onvermijdelijkheid van de dood af te wenden door miljarden dollars te investeren in radicale oplossingen. De bekendste transhumanist ter wereld is Elon Musk, die een heel bedrijf heeft dat zich toelegt op het koppelen van het menselijk brein aan computers. Een van zijn uitgesproken doelen is het mogelijk maken dat mensen “een symbiose met kunstmatige intelligentie bereiken”.

AI-evangelisten spreken ook vaak over de aanstaande komst van “de singulariteit”, een hypothetische toekomstige gebeurtenis waarbij kunstmatige intelligentie daadwerkelijk bewustzijn ontwikkelt. Musk, die er een handje van heeft om te veel te beloven en weinig waar te maken, beweert dat we ons momenteel in de “zeer vroege stadia van de singulariteit” bevinden. De angst voor de dood speelt een stille rol in veel van Musks wereldbeeld, van raketten tot AI: hij beweert dat hij wil dat de mensheid een interstellair beschaving wordt die de energie van complete zonnen verbruikt om voor altijd te overleven.

“Het is één ding om technologie te integreren in een mensgerichte, relationele visie; het is iets heel anders om je te laten leiden door een denkwijze die menselijke beperkingen devalueert en een puur technische vorm van ‘verlossing’ belooft,” schreef Leo. Hij legde uitvoerig uit dat sterfelijkheid een noodzakelijk onderdeel is van de menselijke ervaring, zowel in christelijke termen van verlossende genade als in andere opzichten. “Eindigheid, wanneer werkelijk aanvaard, maakt ons niet kleiner, maar opent ons voor het herkennen van het gelaat van God en anderen,” schreef Leo. “Sterker nog, juist omdat we beperkingen ervaren – kwetsbaarheid, lijden en falen – kunnen we de onschendbare waardigheid van ieder mens erkennen, zowel die van onszelf als die van anderen.”

Meer specifiek uitte Leo zijn bezorgdheid dat AI de door zijn voorgangers genoemde “waarheidscrisis” zou versnellen, met ernstige gevolgen voor het maatschappelijk welzijn. “De zoektocht naar de waarheid is een essentieel element van de democratie, die op zichzelf een middel is om bij te dragen aan het algemeen belang”, waarschuwde hij. “Wanneer vragen over wat waar is hun aantrekkingskracht verliezen en een pragmatisme de overhand krijgt dat tevreden is met wat nuttig of effectief lijkt, dan wordt het democratische leven verzwakt.”

Dit is allesbehalve abstract in een wereld waarin digitale desinformatie, verspreid via Amerikaanse technologieproducten, politieke normen en instellingen wereldwijd ondermijnt. “Democratie bestaat immers niet alleen uit regels en procedures, maar bovenal uit een solide overeenstemming met de feiten en een oprechte toewijding aan het welzijn van individuen en de samenleving als geheel”, legde hij uit. “Onverschilligheid ten opzichte van de waarheid leidt, langzaam maar zeker, tot een afdaling in totalitarisme.”

Niet elk aspect van Leo’s kritiek op Silicon Valley valt binnen de bekende partijpolitieke scheidslijnen. Hij beschreef de gevaren van het blootstellen van kinderen aan sociale media op jonge leeftijd, wat “een negatieve invloed kan hebben op slaap, concentratievermogen, emotiebeheersing en relaties, vooral tijdens de meest kwetsbare levensfasen”. Hij veroordeelde grooming, deepfakes en andere vormen van online seksuele uitbuiting van jongeren, evenals cyberpesten en algoritmes die gebruikers bombarderen met gewelddadige en geseksualiseerde media.

Andere aspecten van het document vormen een directe uitdaging voor het wereldbeeld van de tech-oligarchie. De rechtse leiders van Silicon Valley hunkeren naar een economie waarin werknemers en hun vaardigheden worden gedevalueerd door AI, waardoor ze hun onderhandelingsmacht en persoonlijke waardigheid verliezen. Ze hopen een digitaal afgedwongen hiërarchie te creëren waarin toegang tot kennisproductie en informatie, hoe gebrekkig en waanachtig die ook mag zijn, gemakkelijk te verkrijgen is via hun chatbots waarvoor betaald moet worden. Niemand hoeft dan nog na te denken; ze betalen gewoon Claude, Grok of ChatGPT om het voor hen te doen.

Leo’s encycliek verwelkomde technologieën die “mensen kunnen ontlasten van zware, repetitieve of gevaarlijke taken” of “intelligente ondersteuning kunnen bieden aan menselijke activiteiten”. Maar hij verwierp het techno-feodalisme waarnaar Silicon Valley momenteel streeft. “Het nastreven van hogere winsten kan geen keuzes rechtvaardigen die systematisch banen opofferen, omdat de mens een doel op zich is, geen middel, en de economische orde ondergeschikt moet blijven aan de menselijke waardigheid en het algemeen belang”, schreef hij, en pleitte voor een economie “die waardigheid waardeert”.

Een ander doelwit van kritiek zijn cryptovaluta, de digitale tokens die ooit door hun voorstanders werden geprezen als alternatieve valuta. De laatste jaren zijn ze echter vooral een instrument geworden voor financiële speculatie en zogenaamde ‘pump-and-dump’-constructies. Leo citeerde uit eerdere uitspraken van de paus over hoe ‘financiën omwille van de financiën’, ontdaan van morele principes, heeft geleid tot ‘duidelijk misbruik en onrechtvaardigheden’, evenals een ‘systemische en wereldwijde economische crisis’. Deze woorden wegen des te zwaarder nu de regering-Trump alle regelgevende beperkingen op de crypto-industrie, voorspellingsmarkten en andere vormen van pseudo-gefinancierd gokken loslaat .

Leo’s verontschuldiging in de encycliek voor de historische rol van de kerk in de slavernij en de slavenhandel haalde direct wereldwijd de krantenkoppen. Hoewel het op het eerste gezicht misschien misplaatst lijkt, waren de opmerkingen van de paus gebaseerd op een besef van de bredere systemische schade van de techindustrie. De gemiddelde gebruiker ervaart de output van technologie – een computer, een website, een algoritme, een iPhone – vaak in steriele, gestileerde termen. Leo vestigde de aandacht op het lijden achter de minimalistische ontwerpen en strakke interfaces.

“Een belangrijk deel van het functioneren van de digitale economie is afhankelijk van het stille werk van miljoenen mensen die zich bezighouden met essentiële, maar grotendeels onzichtbare activiteiten, zoals het labelen van data, het trainen van modellen en het modereren van content, vaak met schokkend materiaal”, legde hij uit. “In veel gevallen zijn deze werknemers jonge mensen, voornamelijk vrouwen, die onder zware omstandigheden werken voor een minimumloon.” De paus vertelde ook over de slopende en gevaarlijke omstandigheden waaronder mijnwerkers in ontwikkelingslanden werken.

“De lichamen van deze mensen zijn getekend, gewond en uitgeput, zodat de computerprocessen ononderbroken kunnen doorgaan,” merkte hij levendig op. Leo beschrijft deze dynamiek als “nieuwe vormen van slavernij”, aangewakkerd door de ontmenselijking van mensen in Silicon Valley op elk punt waar ze in contact komen met de techindustrie – of het nu als producent, gebruiker of consument is. Dat ze wettelijk gezien geen slaven zijn, doet er niet toe.

“Aan de basis van deze problemen ligt een technocratische en posthumanistische mentaliteit die de mens beschouwt als een object dat gemanipuleerd kan worden of een hulpbron die geoptimaliseerd moet worden, waardoor alle waarborgen tegen het ongebreidelde streven naar winst verdwijnen”, schreef hij. “Efficiëntie staat voorop, in plaats van respect voor vrijheid en menselijke waardigheid. Sommige posthumanistische stromingen gaan zelfs zo ver dat ze ’tweederangs’ mensen zien, ondergeschikt aan de belangen van elites die zichzelf superieur achten.”

Leo’s kritiek op AI in oorlogsvoering heeft veel aandacht gekregen, maar maakte ook deel uit van een bredere kritiek op de wereldwijde verschuiving weg van diplomatie, internationale organisaties en vredesopbouw. ​​Hij verwierp wat hij omschreef als een nihilistisch ‘realisme’ dat vrede als een irrationele fantasie beschouwt en oorlogsvoering behandelt als ‘ een onvermijdelijk onderdeel van de menselijke natuur’, dat daarom niet vermeden of beperkt zou moeten worden.

“ Religieus extremisme en op identiteit gebaseerd fanatisme gaan hand in hand met irrationeel economisch beleid, terwijl de politiek zich vaak richt op desinformatie en het belachelijk maken van tegenstanders, en systematisch angst en wrok aanwakkert”, waarschuwde de paus. “Diversiteit wordt daardoor steeds vaker als een bedreiging gezien, wat een verlangen naar bezit, een wil tot dominantie, hegemoniale ambities, machtsmisbruik en angst voor andersdenkenden aanwakkert, waardoor een omgeving ontstaat waarin nieuwe conflicten zich bijna onmerkbaar kunnen ontwikkelen.” Leo hoeft de naam van de president niet eens te noemen, want hij is evenzeer een symptoom als een oorzaak.

Sinds het Tweede Vaticaans Concilie in de jaren zestig hebben pausen hun encyclieken vaak geformuleerd in termen van collegialiteit en een respectvolle dialoog, in plaats van als stille, autoritaire decreten uit Rome. Leo’s schrijfstijl ademt dezelfde toon en stem, en zijn eigen opmerkingen drukken een verlangen uit naar een gezamenlijke discussie en nederige bijdragen vanuit de sociale leer van de Kerk. “Daarom nodig ik alle leden van de Kerk en van de mensheid uit: laten we naar elkaar leren luisteren, de huidige uitdagingen met moed tegemoet treden en samenwerken aan de opbouw van een meer menselijke en broederlijke samenleving,” zei hij bij de publicatie van de encycliek.

Maar de diepere boodschap van de encycliek is veel minder gemoedelijk dan de pers heeft gesuggereerd. De paus probeert niet zozeer bruggen te slaan met Amerikaanse technologiebedrijven, maar met degenen die door hun beslissingen worden getroffen en met degenen die hen kunnen beteugelen: ouders en opvoeders, diplomaten en onderzoekers, leiders van het maatschappelijk middenveld en gekozen functionarissen, regeringen en landen. Leo doet geen passieve observaties, maar werpt licht op manifeste onrechtvaardigheden en degenen die daarvoor verantwoordelijk zijn. Er zit een ijzeren wil in de herdersstaf.

De encycliek moet ook gelezen worden in de context van Leo’s handelen tijdens zijn eerste jaar als paus. Het pontificaat van zijn voorganger werd gekenmerkt door toenemende verdeeldheid onder de bisschoppen van de kerk over de uitspraken van paus Franciscus over de kerkleer met betrekking tot seksuele ethiek, of het nu ging om de communie voor gescheiden stellen of pastorale zorg voor LGBTQ-katholieken. Franciscus’ pogingen om de Tridentijnse Mis te onderdrukken onder traditionalistische katholieken werden gezien als een directe aanval op een conservatieve groep die, in de ogen van Franciscus’ aanhangers, de kerk wilde polariseren.

Leo lijkt die energie daarentegen eerder naar buiten dan naar binnen te richten. Hoewel hij in veel opzichten op Franciscus lijkt, heeft hij de hand gereikt aan bisschoppen zoals kardinaal Raymond Burke, een Amerikaanse criticus van Franciscus die vorig jaar een Tridentijnse mis mocht opdragen in de Sint-Pietersbasiliek, en andere conservatieve leiders zoals kardinaal Robert Sarah. De hernieuwde nadruk van het Vaticaan lijkt te liggen op de neiging van de westerse wereld tot autoritair nationalisme, en meer specifiek op de misdaden en misbruiken van de tweede regering-Trump.

De paus heeft Amerikaanse bisschoppen aangemoedigd om het massale deportatiebeleid van de regering aan te vechten en heeft de oorlogen tegen Venezuela en Iran scherp bekritiseerd. (Trump reageerde hierop door Leo “zwak op het gebied van misdaadbestrijding” te noemen.) In een amicus curiae-brief in de zaak Trump tegen Barbara hekelde de Amerikaanse bisschoppenconferentie een belangrijk beleid van Trump door krachtig te stellen dat het grondwettelijke principe van burgerschap op basis van geboorteplaats deel uitmaakt van de westerse juridische en culturele traditie. Het afschaffen ervan, waarschuwden de bisschoppen in krachtige bewoordingen, “zou zowel de juridische als de morele fundamenten van de Amerikaanse samenleving ondermijnen.”

Tot de verkiezing van paus Leo XIV vorig jaar was de algemene opvatting onder Vaticaanse experts dat de kardinalen nooit een Amerikaanse paus zouden kiezen, om te voorkomen dat er te veel wereldlijke macht geconcentreerd zou raken in de laatste supermacht ter wereld. Maar in plaats van de Amerikaanse hegemonie te verheerlijken, heeft Leo deze scherp uitgedaagd en bekritiseerd binnen de leer van de kerk. Magnifica Humanitas gaat niet alleen over AI en andere uitvindingen uit Silicon Valley, maar ook over de schade die ze ons allemaal hebben toegebracht.