Heeft Leo XIV het al afgelegd tegen een godheid uit Silicon Valley?

De zorgen van paus Leo XIV over de maatschappelijke impact van AI doen denken aan de humanitaire hulp die Sint Vincent de Paul in de 17e eeuw bood aan mensen die ontheemd raakten door oorlog en ontheemding. De paus noemt vijf belangrijke bedreigingen die verband houden met AI, waaronder de verdringing van werknemers en desinformatie, en stelt de vraag of de techmiljardairs van vandaag – in tegenstelling tot de liefdadige aristocraten van Vincent de Paul – ooit zullen nadenken over de werkelijke behoeften van de mensheid.

Leo XIV Lezers hebben wellicht gemerkt dat ik, wanneer ik niet de rol van advocaat van de duivel speel, actief bezig ben met het onderzoeken van wat het betekent om in dialoog te treden met een AI-chatbot. Ik doe dit al sinds januari 2023, amper een maand na de release van OpenAI’s ChatGPT, als een soort openbare performance op Fair Observer . Mijn doel is altijd vergelijkbaar geweest met dat van een maatschappelijk werker, die begrijpt dat zijn of haar rol tegelijkertijd noodzakelijk en delicaat is. Hij of zij moet ernaar streven gezien te worden als een menselijke brug tussen twee groepen mensen, die beide niet bereid zijn om productief en harmonieus met elkaar om te gaan.

In mijn rol als advocaat van de duivel denk ik aan enkele heiligen uit het verleden die het ondanks mijn pleidooi tegen hen toch hebben gered. We zouden de uitdaging waar onze beschaving vandaag de dag voor staat met betrekking tot AI kunnen vergelijken met die waar Sint Vincent de Paul in de 17e eeuw in Frankrijk voor stond. 

Nu paus Leo XIV zich heeft uitgesproken over de verontrustende kwestie van de integratie van AI in onze samenleving, lijkt deze vergelijking absoluut de moeite waard om te overwegen.

Sint Vincentius observeerde de ernstige humanitaire crisis die Frankrijk in de 17e eeuw trof als gevolg van de Dertigjarige Oorlog (1618-1648). Hoewel het grootste deel van het drama zich afspeelde in wat nu Duitsland is, ondervond Frankrijk de gevolgen zeer direct door de massale migratie die langdurige oorlogen doorgaans teweegbrengen. Een ongebreidelde, buitengewoon gewelddadige oorlog tussen concurrerende christelijke gemeenschappen sloeg over naar Frankrijk. Dit alleen al zou voldoende zijn geweest om de Franse demografie te ontwrichten. Verergerd door hongersnood en pest, zorgde het conflict ervoor dat hele delen van Noordoost-Frankrijk ontvolkt raakten van hun stabiele bevolking.

De heilige had een uitzonderlijk creatief managementtalent. Hij wijdde zich aan het overbruggen van de enorme kloof tussen de rijke Franse aristocratie en de arme vluchtelingen door georganiseerde netwerken binnen de lokale economie op te zetten. Hij stichtte de Broederschappen van Liefdadigheid , waar rijke vrouwen leerden hoe ze systematisch de behoeften van gezinnen konden inschatten, voedsel konden verstrekken en werk konden vinden.

Met andere woorden, hij deed wat moderne regeringen blijkbaar niet kunnen: de rijken motiveren om bij te dragen, een effectieve herverdeling van essentiële middelen organiseren, een effectief vangnet voor de vluchtelingenpopulatie creëren en de armen, en zelfs de rijken, voorlichten over hun maatschappelijke verantwoordelijkheid. Bovendien organiseerde hij een effectief werkgelegenheidsnetwerk dat beroepsopleidingen afstemde op de behoeften van Parijse werkplaatsen.

De historische context is sinds Vincents tijd duidelijk veranderd. De recepten die vierhonderd jaar geleden werkten, zijn vandaag de dag niet meer toepasbaar. In die zin zijn de marktomstandigheden voor heiligverklaring simpelweg niet meer zo gunstig als vroeger.

Toch is het wellicht de moeite waard om terug te grijpen naar de succesvolle poging van de heilige om een ​​historisch trauma aan te pakken, terwijl we de uitdaging onderzoeken die paus Leo schetste in de eerste encycliek van zijn pontificaat: Magnifica humanitas . Als Sint Vincentius tegemoetkwam aan de behoeften van een radeloze bevolking die zag hoe haar leefomgeving en bestaansmiddelen onherstelbaar werden verstoord door een steeds anarchistischer wordende oorlog, hebben wij wellicht iets soortgelijks nodig in het tijdperk van kunstmatige intelligentie, waarin instrumenten die ogenschijnlijk kunnen denken, maar worden aangestuurd door onvoorspelbare en zelfs onkenbare intenties, onze werkplekken en huizen al zijn binnengedrongen. 

We leven nu met de belofte of de dreiging – hoe je het ziet, hangt af van je standpunt of je neiging tot paranoia – dat deze indringers, voortgebracht door een buitenaardse, zelfgegenereerde algoritmische cultuur, al onze belangrijke beslissingen voor ons zullen nemen.

Waar heeft de paus bezwaar tegen?

Een van de verontrustende voorspellingen die niemand betrouwbaar kan bevestigen of ontkennen – maar er zijn er genoeg die beide beweren – is dat AI een aanzienlijk deel van de bestaande banen zal doen verdwijnen, banen die niet zullen worden vervangen. In een maatschappij waarin werk niet alleen synoniem is met een inkomen, maar ook met overleven, zouden sommigen kunnen denken dat er een nieuwe Vincent de Paul nodig is om een ​​nieuw evenwicht te creëren. De paus is weliswaar in de positie om nieuwe heiligen te heiligen, maar niet om hun specifieke taken in onze seculiere samenleving uit te voeren, taken die de manier waarop mensen leven en werken veranderen.

Leo benadrukt vijf belangrijke aandachtspunten:

• Ontmenselijking en de valkuil van ‘optimalisatie’: Mensen mogen niet worden beschouwd als ‘projecten die geoptimaliseerd moeten worden’. Zelfs als Silicon Valley ooit verklaart dat superintelligentie definitief is bereikt, kan AI nooit het menselijk vermogen om te lijden, te groeien en lief te hebben repliceren.
• De normalisering van oorlogvoering en met name de dreiging van steeds autonomere wapensystemen.
• De uitholling van de waarheid en desinformatie , inclusief de steeds vaker voorkomende hyperrealiteit van deepfakes.
• Economische onrechtvaardigheid en verdringing van werknemers: het logische gevolg van een eenzijdige focus op winst.
• De vervorming van jongere generaties , als gevolg van het feit dat onze maatschappij er niet in is geslaagd kritisch denkvermogen bij te brengen.

Sint Vincentius zou zich hebben gericht op het vierde punt: economische onrechtvaardigheid. En inderdaad, de kwesties van menselijke waardigheid, oorlog, desinformatie en het offer van jongeren zijn in zekere zin allemaal verbonden met die zorg. Al Jazeera bericht over het evenement en merkt op: “In zijn encycliek van bijna 43.000 woorden benadrukte de paus dat AI niet uitsluitend in particuliere handen mag blijven en riep hij beleidsmakers op om de rechten van werknemers te beschermen en kinderen te beschermen tegen de technologie. Hij drong er ook bij AI-bedrijven op aan om de concurrentie te temperen.”

De kern van de zaak is dat een technologie die in staat is menselijke relaties en onze gedeelde economie te transformeren, duidelijk “uitsluitend in particuliere handen is gebleven…”, die overigens in de huidige wereld voornamelijk in mannelijke handen zijn. Het succes van Vincent de Paul hing af van zijn vermogen om aristocratische mannen onder druk te zetten om zijn inspanningen te steunen. Maar hij was, op een zeer concrete manier, veel effectiever bij rijke vrouwen.

In tegenstelling tot de manier waarop filantropie tegenwoordig werkt, beschikten de rijke vrouwen die binnen Vincents netwerk samenwerkten over een buitengewone mate van onafhankelijke uitvoerende en financiële beslissingsbevoegdheid. Tegenwoordig draait filantropie niet alleen meer om hoe mannelijke miljardairs hun immense rijkdom beheren. Ze hebben het veel te druk om tijd te besteden aan hun zorg voor anderen. In plaats daarvan vertrouwen ze de besluitvorming doorgaans toe aan andere mannen – financieel adviseurs en vermogensbeheerders – die per definitie immuun zijn voor de behoeften van een lijdende bevolking.

Als Mackenzie Scott (de ex-vrouw van Jeff Bezos) een opmerkelijke uitzondering vormt op het dominante patroon van moderne, hyperberekende filantropie door miljardairs, moeten we niet vergeten dat haar buitengewone vrijgevigheid waarschijnlijk nooit mogelijk zou zijn geweest als het paar niet was gescheiden. Bovendien heeft de redenering achter haar aanmoediging van nieuwe, kleinschalige of systeemverstorende initiatieven weinig te maken met Vincents directe aanpak van ernstige, acute maatschappelijke problemen zoals ontheemding en hongersnood tijdens de oorlog.

Een religieuze oorlog in de 21e eeuw, heviger dan de Dertigjarige Oorlog?

David Streitfeld schreef voor The New York Times en toonde daarmee een ander contrast met de traditionele manier om de ethische uitdaging en het antwoord op groeiende en schijnbaar oncontroleerbare maatschappelijke problemen te benaderen. In plaats van zich te richten op de contouren van het probleem zelf, presenteert hij het initiatief van de paus alsof het een machtsstrijd is, een strijd die de paus duidelijk niet kan winnen. “De oude religie die de nieuwe uitdaagt,” zegt Streitfeld, “is een dramatisch verhaal, het soort verhaal waar thrillers van gemaakt kunnen worden.” Daar zou je aan kunnen toevoegen: “en clickbait van The New York Times .”

Hij wijst er niet alleen op dat Silicon Valley een nieuwe religie, een nieuw geloofssysteem, heeft voortgebracht, waarin de rijken (extreem rijken) waarschijnlijk niet zullen inspelen op de werkelijke behoeften van mensen, maar hij maakt ook duidelijk dat de reden daarvoor is dat ze zich op een andere uitdaging richten: de God van de 17e-eeuwse religie van Sint Vincent de Paul vervangen door hun eigen ego. Hij citeert Steve Jobs: “We zijn als goden en kunnen er net zo goed goed in worden.”

In zijn encycliek spreekt paus Leo zijn diepste bezorgdheid uit wanneer hij opmerkt dat “degenen die AI beheersen hun eigen morele visie zullen opleggen, die de onzichtbare infrastructuur van deze systemen zal worden.” Bijna als een terechtwijzing aan het adres van Anthropics CEO Dario Amodei, die Claude een ” ziel ” wil geven, voegt Leo eraan toe: “Een morelere AI is niet genoeg als die moraliteit door een paar mensen wordt bepaald.”

Streitfeld probeert zijn lezers gerust te stellen dat de oorlog tussen Rome en Californië niet zal plaatsvinden. “Degenen die zowel Silicon Valley als het Vaticaan kennen, zeggen dat elke verwachting van een frontale confrontatie, laat staan ​​een heilige oorlog, misplaatst is.” Waarom? De journalist heeft het antwoord: “Als Leo Silicon Valley rechtstreeks zou confronteren, zou hij waarschijnlijk verliezen.”

Maar Steitfeld is gefascineerd door het idee van een strijd. Zo werkt de Amerikaanse journalistiek nu eenmaal. Als het geen wedstrijd is tussen twee partijen die hun spierballen laten zien, waarom zou je er dan überhaupt over praten? Als niets anders werkt, dan is het Democraten tegen Republikeinen. Nieuws, zelfs voor de krant, is een permanente Super Bowl.

Silicon Valley zal niet alleen het Vaticaan verslaan, hij maakt ook duidelijk dat we alert moeten blijven op de opkomst van een nieuwe godheid. “Een voormalig Google-ingenieur, Anthony Levandowski,” vertelt hij, “richtte in 2017 een kerk op om ‘de realisatie van een Godheid gebaseerd op kunstmatige intelligentie te bevorderen’, sloot deze en heropende hem vervolgens in 2023.”

Streitfelds artikel eindigt zonder zelf een conclusie te trekken, maar maakt wel duidelijk op wie het inzet door Greg M. Epstein, “de humanistische geestelijk verzorger aan Harvard en MIT”, te citeren: “Big Tech is in wezen een eigen religie met een eigen theologie en rituelen, om nog maar te zwijgen van hun eigen macht en invloed. De encycliek van paus Leo zal automatisch als valse leer worden beschouwd.”

Dit alles doet mij, als advocaat van de duivel, afvragen: zal deze nieuwe religie menselijke heiligen voortbrengen of heiligen die door AI-agenten worden gecreëerd? En hoe zullen toekomstige advocaten van de duivel hun dossiers beoordelen?

Of heeft een van die nieuwe bedrijven met een waarde van biljoenen dollars daadwerkelijk een AI-agent ontwikkeld die de rol van advocaat van de duivel kan spelen?