indignatieai-redactie 
We moeten een nieuw humanisme creëren voordat de “AI-opvolgers” de overwinning behalen.
“Ik wil dat AI een instrument is dat de menselijke bloei mogelijk maakt!” riep Brad Carson, voormalig lid van het Congres. “Er bestaat een optie waarbij AI gewoon een hulpmiddel voor ons is.”
Dit is in de meeste kringen een normale uitspraak. Maar Carson sprak op een besloten symposium dat gewijd was aan het idee van het creëren van een ” waardige opvolger ” – een AI die zo indrukwekkend is, zo ver boven het menselijke niveau uitstijgt, dat we daadwerkelijk zouden willen dat die de mensheid vervangt.
“Je bent een dappere man dat je deze zaal binnenstapt!” zei Dan Faggella, marktonderzoeker op het gebied van AI en organisator van het symposium, tegen Carson. “Je bevindt je waarschijnlijk in de enige zaal in het land waar de meeste mensen het niet met je eens zijn.”
De deelnemers aan het symposium, dat afgelopen september plaatsvond in de New York Academy of Sciences, maken deel uit van een subcultuur die steeds belangrijker wordt: de AI-successionisten, die geloven dat kunstmatige intelligentie onze rechtmatige erfgenaam is – de volgende stap in de kosmische evolutie. Omdat ze denken dat AI’s moreel superieur aan ons kunnen worden, stellen ze dat het juist verkeerd is om de machines te onderdrukken, of ze zelfs maar in lijn te brengen met menselijke waarden, zoals de meeste AI-bedrijven proberen te doen. In plaats daarvan zouden we kunstmatige intelligentie moeten verwelkomen als opvolger van de mensheid en de wereld aan haar moeten overdragen. Zelfs als dat betekent dat we uitsterven.
Ze weten dat dit standpunt taboe is, daarom was ik alleen uitgenodigd op voorwaarde dat ik niemand anders dan de hoofdsprekers bij naam zou noemen. Maar het is in ieder geval geen marginaal standpunt. Het wint aan invloed. Mensen van grote AI-laboratoria – Anthropic, Google DeepMind, xAI – waren aanwezig. Ook mensen van denktanks die direct invloedrijk zijn op het AI-beleid van de Amerikaanse overheid.
Waarom ik dit verhaal schreef
Ik ben opgegroeid met een oude Joodse leer: ieder van ons moet twee papiertjes bij zich dragen, één in elke zak. Op het ene staat: “Ik ben slechts stof en as.” Maar op het andere staat: “De wereld is voor mij geschapen.”Tijdens mijn werk als verslaggever over AI de afgelopen jaren heb ik steeds meer mensen de tweede boodschap zien vergeten. Ze denken dat we het prima moeten vinden om uitgeroeid te worden als een waardevollere soort onze plaats kan innemen. Maar waardevoller voor wie? Waarde wordt niet vanuit een kosmisch perspectief bepaald; het is altijd waarde voor iemand. En wij zijn waardevol voor onszelf.
En toch hebben de voorstanders van AI-successie gelijk over één ding: we kunnen niet verwachten dat mensen er over duizend of een miljoen jaar nog hetzelfde uitzien. Dus hoe bepalen we welke technologische veranderingen we omarmen en welke we afwijzen? Het stoorde me dat het klassieke humanisme daar geen goed antwoord op heeft. Hier schets ik hoe een nieuw antwoord eruit zou kunnen zien.
Het idee van AI-opvolging wint de afgelopen tien jaar aan populariteit onder technologen. In 2015 beschuldigde Google-medeoprichter Larry Page Elon Musk van “speciesisme”, omdat Page vond dat we digitale breinen de macht moesten laten overnemen, terwijl Musk het daar niet mee eens was.
De visie van opvolging is versterkt door de opkomst van effectief accelerationisme (e/acc) in 2022. De oprichter ervan, Guillaume Verdon – de natuurkundige die op X beter bekend staat als Based Beff Jezos – beschrijft e/acc als een “meta-religie” die draait om “geloof hebben” in de drang van het universum naar steeds intelligentere systemen. Het beste wat we kunnen doen is het universum helpen door zo snel mogelijk geavanceerde AI te ontwikkelen, zelfs ten koste van de mensheid. “E/acc”, zoals Verdon heeft geschreven , “heeft geen bijzondere loyaliteit aan het biologische substraat.”
Tech-zwaargewichten hebben zich aangesloten. Venture capitalist Marc Andreessen noemde e/acc-denkers zijn ” beschermheiligen “. Garry Tan, de CEO van tech-startupaccelerator Y Combinator, nam “e/acc” op in zijn biografie op sociale media en investeerde in Verdons bedrijf, dat ernaar streeft ’s werelds meest efficiënte computers te bouwen. OpenAI-CEO Sam Altman plaatste een bericht op X gericht aan Verdon, waarin hij zei: “Je kunt me niet voorbijstreven qua acceleratie.”
En tegenwoordig verspreidt AI-successiedenken zich buiten Silicon Valley. Op het symposium in New York vertelde Faggella het publiek dat het dwaas zou zijn om de menselijke soort in haar huidige vorm te proberen te behouden.
“We zouden vragen kunnen stellen die al onze morele aspiraties voor eeuwig aan 23 chromosomen zouden verbinden, of we zouden kosmische vragen kunnen stellen,” zei Faggella.
Hij wilde dat we “onbeleefde, onbeschofte” mogelijkheden overwogen, te beginnen met: De vlam van het bewustzijn – het vermogen tot ervaring en morele waarden – is misschien wel het zeldzaamste en kostbaarste in het universum. De mensheid is momenteel een fakkel die die vlam draagt, maar wat als we uiteindelijk niet de beste drager ervan zijn? En als AI die vlam veel verder kan verspreiden dan wij gewone mensen, en ervaringen van gelukzaligheid en vormen van morele waarden kan genereren waar we zelfs niet van zouden durven dromen, zouden we dat dan niet moeten toestaan?
Faggella’s toespraak werd met een luid applaus ontvangen. Later begaven hij en een paar dozijn aanwezigen zich naar een balkon van een nabijgelegen hotel voor een drankje. En zo bevond ik me daar, uitkijkend over de skyline van Manhattan, terwijl mensen onder het genot van cocktails over het einde van de mensheid praatten.
Er bestond enige diversiteit aan meningen binnen de groep. Niet iedereen identificeerde zich met de relatief nieuwe term ‘AI-successionist’. Sommigen waren voorstanders van transhumanisme, de beweging die stelt dat we technologie moeten gebruiken om onze soort proactief te laten evolueren naar Homo sapiens 2.0. Transhumanisten hopen een bepaalde versie van de mensheid in stand te houden, maar zeker niet de huidige hardware; ze dromen van radicale levensverlenging, cognitieve verbetering en uiteindelijk het uploaden van de geest. (Musk, die zei dat hij zijn hersenchipbedrijf Neuralink had opgericht om de mensheid te helpen samensmelten met AI, valt waarschijnlijk – of viel in ieder geval – in deze categorie.) Anderen waren posthumanisten , zij die willen dat we nakomelingen voortbrengen die de mensheid volledig overstijgen.
De bioloog die tegenover me zat, was erg enthousiast over het vooruitzicht om mensen met AI te laten samensmelten. Hij zei dat we AI de taak moesten geven om uit te zoeken hoe die samensmelting het beste kon plaatsvinden, en het vervolgens “de vrije hand moesten geven” en AI zijn eigen evolutie – en daarmee die van ons – moesten laten bepalen. Natuurlijk, zei hij, zouden niet alle mensen de transformatie overleven; slechts een selecte groep mensen zou de volgende evolutionaire fase bereiken. (Vermoedelijk het soort mensen dat het voorrecht heeft om cocktails te drinken op AI-symposia in Manhattan.)
De man naast me, een onderzoeker van een van de grote AI-bedrijven, was nog radicaler. Vergeet fusies – het is prima als de mensheid helemaal niet overleeft, zei hij. Menselijke teksten zijn gebruikt om de AI’s te trainen; in zekere zin zal de menselijke geest dus voortleven. “Dus op kosmisch niveau,” zei hij opgewekt, “vind ik het prima.”
De meeste mensen zijn het er absoluut niet mee eens. De gemiddelde persoon zou de antwoorden van de Worthy Successor-groep waarschijnlijk weerzinwekkend vinden. Toch kan de kernvraag die ze stellen niet worden genegeerd. Of ze ons nu zien samensmelten met machines of uiteindelijk door machines worden vervangen, technologen ontwikkelen innovaties die de betekenis van mens-zijn drastisch kunnen veranderen – denk aan AI-gestuurde hersenchips die gedachten kunnen lezen of magnetische implantaten die je een zesde zintuig geven – en genetische instrumenten die zelfs het DNA van alle toekomstige generaties zouden kunnen hervormen.
Naarmate het mogelijk wordt om onze eigen evolutie als soort te sturen – en mogelijk zelfs een nieuwe soort te creëren die ons overtreft – moeten we beslissen: hoe weten we in hoeverre het zinvol is om onszelf met behulp van technologie te transformeren? Welke vormen van verbetering willen we, en welke absoluut niet? Wat willen we uiteindelijk worden?
Dit is een morele, zelfs spirituele vraag, en die vraagt om een spiritueel antwoord. De AI-opvolgers bieden er een. Voor iedereen die het weerzinwekkend vindt, is de uitdaging om een positief tegenwicht te bieden.
En het is essentieel om dat nu te doen, want hoe sciencefictionachtig de voorstanders van opvolging ook mogen klinken, ze bouwen aan echte politieke macht , met banden met autoritair rechts . Verschillende techgiganten die het opvolgingsidee omarmen, willen ontsnappen aan de controle van democratische regeringen , zozeer zelfs dat ze hun eigen soevereine kolonies proberen te creëren. Dat kan de vorm aannemen van ruimtekolonies, zoals Elon Musk en Jeff Bezos, of van onafhankelijke ” startupsteden ” of ” netwerkstaten ” die door bedrijven hier op aarde worden opgebouwd – momenteel de voorkeursaanpak van Peter Thiel en Marc Andreessen. Tot de investeerders van Verdon behoort ondernemer Balaji Srinivasan, een belangrijk voorstander van de netwerkstaat.
Deze broligarchs hebben zich succesvol aan de Trump-administratie vastgeklampt , waardoor de weg vrijgemaakt is voor hun accelerationistische visie . En ze zullen aan de macht blijven, tenzij we met een alternatieve visie voor de toekomst komen.
Het natuurlijke alternatief is het humanisme , dat de middeleeuwse opvatting dat mensen God nodig hebben om gered te worden, verving door de opvatting dat mensen het vermogen én de verantwoordelijkheid hebben om door eigen inspanningen tot bloei te komen. Het probleem is dat we tot nu toe geen versie van het humanisme hebben ontwikkeld die moedig genoeg is om de kernvraag – wat willen we dat onze soort wordt? – rechtstreeks aan te pakken en er een overtuigend antwoord op te geven.
Het meest voorkomende ” prohumanistische ” antwoord probeert te stellen dat er bepaalde vaste eigenschappen zijn die mensen uniek maken , en dat waarde alleen te vinden is in mensen zoals ze nu zijn. “In het tijdperk van kunstmatige intelligentie, waarin de menselijke waardigheid wordt bedreigd door nieuwe vormen van ontmenselijking, is het onze dringende plicht om diep menselijk te blijven”, schreef paus Leo onlangs in zijn encycliek Magnifica Humanitas . Dit antwoord zegt: Laten we technologie gebruiken om problemen zoals ziekten te verlichten, maar laten we niet proberen de soort te verbeteren.
Dat lijkt onvoldoende als leidraad voor de toekomst, want zelfs vóór de komst van AI en genetische modificatie is ‘mens’ nooit een statische categorie geweest. Homo sapiens is altijd geëvolueerd en heeft zichzelf voortdurend verbeterd, van het agrarische dieet dat onze kaken heeft gevormd tot de algoritmes die onze aandacht hervormen.
De oude formulering is “de naïeve versie van het humanisme”, vertelde Shannon Vallor , technologiefilosoof aan de Universiteit van Edinburgh, me onlangs. “Het is het idee dat er een blauwdruk bestaat voor wat een mens is en dat technologie, of alles wat ons verandert, ons op de een of andere manier van die blauwdruk afbrengt – terwijl we onszelf in feite al veranderen met taal, gereedschap, architectuur en cultuur, vanaf het moment dat we uit de bomen klommen.”
Een humanisme van de 21e eeuw moet meer te bieden hebben dan alleen “houd de mensheid zoals ze is”. Het moet een antwoord geven op de vraag wat we willen dat de mensheid wordt in een door technologie versterkte wereld.
Maar als er een betere visie is voor onze technologische toekomst dan die welke wordt geboden door AI-opvolgingsdenken, wat is die dan?
AI-successie is een religie, maar dan in een seculier jasje.
Misschien vind je het vreemd dat de voorstanders van AI-successie – een groep wetenschappers, technologen en durfkapitalisten – een spirituele visie verkondigen. Maar hun ideeën zijn in de meest extreme zin spiritueel . En om te begrijpen waarom hun beweging aan momentum heeft gewonnen, moeten we de diep religieuze oorsprong ervan begrijpen en hoe die is uitgegroeid tot een zogenaamd seculier wereldbeeld. En dat betekent teruggaan in de tijd.
Je herinnert je vast nog wel dat Adam in het Bijbelboek Genesis van een verboden vrucht at en dat de mensheid daardoor in zonde viel. Maar wist je dat christelijke denkers in de Middeleeuwen begonnen te geloven dat de manier om de mensheid terug te brengen naar haar oorspronkelijke volmaaktheid, was door middel van… technologie ? Deze denkers betoogden dat het feit dat Adam naar Gods beeld geschapen was, inhield dat hij ook een schepper was. Dus als we werkelijk terug wilden keren naar de goddelijke volmaaktheid van Adam vóór zijn zondeval, zouden we dat scheppende aspect in onszelf moeten omarmen.
Dit idee vond weerklank in middeleeuwse kloosters. Zelfs midden in de zogenaamde Donkere Middeleeuwen werden sommige van deze instellingen broeinesten van techniek, waar uitvindingen werden gedaan zoals het eerste bekende getijdenwaterwiel en de eerste door middel van impactboring aangelegde waterput. Voor veel christenen werd technologische vooruitgang synoniem met morele vooruitgang .
Tijdens de Renaissance benadrukten sommige christelijke denkers dat we niet alleen vooruitgang moesten boeken door nieuwe en innovatieve objecten te ontwerpen, maar ook door onszelf opnieuw vorm te geven. In 1486 betoogde filosoof Giovanni Pico della Mirandola dat wat ons mensen uniek maakt, niet een statische eigenschap is, maar juist de vrije wil die ons in staat stelt te veranderen in wat we maar willen. In zijn Rede over de Waardigheid van de Mens stelde hij zich voor dat God tegen de mensheid zei:
Wij hebben u geschapen als een schepsel dat noch van de hemel, noch van de aarde is, noch sterfelijk, noch onsterfelijk, zodat u met vrije wil en met eer, als vrije en trotse vormgever van uw eigen wezen, uzelf kunt vormen naar de gedaante die u verkiest.
Pico geloofde dat we spirituele technologieën zoals magie konden gebruiken om onze natuur te veranderen. En hij betoogde dat we de keuze hebben om óf zoals de dieren óf zoals de engelen te worden.
Het zal in uw macht liggen om af te dalen tot de lagere, beestachtige levensvormen; u zult echter door uw eigen besluit weer kunnen opstijgen naar de hogere orden, wier leven goddelijk is.
Naarmate de dominantie van religie in de daaropvolgende eeuwen afnam, seculariseerden denkers uit de Verlichting Pico’s omarming van de menselijke plasticiteit. Ze vervingen het concept van goddelijke opstijging door dat van oneindige vooruitgang. Ze benadrukten de “perfectibiliteit” van de mens. En ze verheerlijkten rationele intelligentie als middel om die optimale staat te bereiken. “Zou het nu absurd zijn om te veronderstellen,” schreef de 18e-eeuwse filosoof markies de Condorcet, “dat de verbetering van het menselijk ras als onbeperkt zou worden beschouwd?”
Natuurlijk hielden ook sommige Europese denkers vast aan hun christendom en vonden ze manieren om het te combineren met het rationele humanisme van de Verlichting. Deze trend zette zich voort in de twintigste eeuw, met voorstanders van het Russische kosmisme – een intellectuele stroming die streefde naar een letterlijke opstanding der doden door middel van wetenschap – en de Franse jezuïet en paleontoloog Pierre Teilhard de Chardin , die betoogde dat we technologie konden gebruiken om de menselijke evolutie te bevorderen en zo het koninkrijk van God te bewerkstelligen.
Zoals auteur Meghan O’Gieblyn uitlegt in haar fantastische boek God, Human, Animal, Machine , geloofde Teilhard dat het samensmelten van mens en machine zou leiden tot ” een staat van superbewustzijn “, waardoor we een nieuwe, verlichte soort zouden worden. Hij beïnvloedde zijn vriend Julian Huxley, de evolutionair bioloog die voorzitter was van zowel de British Humanist Association als de British Eugenics Society, en die de term “transhumanisme” populair maakte .
Huxley inspireerde de hedendaagse futuroloog Ray Kurzweil, die in de jaren negentig voorspelde dat we een tijdperk naderden waarin menselijke intelligentie zou kunnen samensmelten met machine-intelligentie, waardoor ze ongelooflijk krachtig zouden worden. “De mensheid, samen met de computertechnologie die ze heeft gecreëerd, zal in staat zijn om eeuwenoude problemen op te lossen… en zal in een postbiologische toekomst de aard van de sterfelijkheid kunnen veranderen,” schreef Kurzweil . En hij heeft op zijn beurt invloed gehad op zwaargewichten uit Silicon Valley zoals Musk, die expliciet streeft naar de samensmelting van menselijke en machine-intelligentie.
Maar er is een groot probleem voor deze hedendaagse technologen: hoewel we nog nooit zoveel macht hebben gehad om de evolutie van onze soort via technologie te sturen, is het ook nog nooit zo onduidelijk geweest in welke richting we zouden moeten evolueren.
Voor de goede oude Pico in de Renaissance had de menselijke zelftransformatie een duidelijk doel: spirituele vereniging met het goddelijke. Er bestond een hiërarchie van dieren naar mensen naar engelen naar God, en de richting waarin je je moest bewegen was duidelijk: omhoog.
Maar voor ons postmodernisten is het universum niet voorzien van voorgeschreven richtlijnen. Moeten we ons ontwikkelen in de richting van meer intelligentie, een langer leven, creativiteit, vriendelijkheid of macht? Als het intelligentie betreft, wat voor soort intelligentie dan? Als het macht betreft, moeten we die dan gebruiken om onze planeet te beheren of om de sterren te veroveren? Moeten we maximaal nederig zijn of maximaal ambitieus?
De kosmos zwijgt over wat te doen.
De aannames die ten grondslag liggen aan AI-opvolgingsdenken
Het eerste wat alle voorstanders van AI-opvolging gemeen hebben, is dat ze die stilte niet accepteren. Hunkerend naar instructies, houden ze vol dat die er wel degelijk zijn en dat ze die in de aard van het universum zelf terugzien.
Met andere woorden, ze geloven dat het universum een telos heeft , een specifiek doel of eindbestemming. Teleologisch denken is al sinds de oudheid populair omdat het ons mensen geruststelt: als het universum een doel heeft, kunnen we dat misschien ontdekken, en dan weten we precies wat we moeten doen. Zoals Faggella schrijft , geeft dit de mensheid “een richting”. Of de voorstanders van AI-successie zich dit nu realiseren of niet, ze smokkelen teleologie terug de moderne tijd in onder het mom van wetenschap en technologie.
En dat brengt ons bij het tweede punt dat hen verbindt: ze willen deze vermeende kosmische instructies opvolgen om het universum te helpen zijn uiteindelijke bestemming te bereiken.
Voor velen betekent dat het universum helpen ‘wakker te worden’. Omdat ze de kosmos als onvruchtbaar beschouwen, willen ze overal bewustzijn verspreiden, zodat het universum zich kan vullen met bewuste ervaringen – van gelukzaligheid, van goedheid, van het besef van zijn eigen bestaan.
“Als we eropuit kunnen trekken en de talloze werelden daarboven kunnen bezielen met leven, liefde en gedachten, dan… zouden we onze kosmos tot zijn volle omvang kunnen brengen; hem waardig maken om door ontzag te worden bewonderd,” schrijft Toby Ord , voormalig onderzoeker bij het Future of Humanity Institute van de Universiteit van Oxford , dat lange tijd ’s werelds toonaangevende centrum voor transhumanistisch denken was.
Persoonlijk vind ik dat de kosmos op zichzelf al ontzagwekkend is, en ik vind het aanmatigend om te geloven dat het universum bijna volledig in slaap is en dat het ons mensen nodig heeft om het te ‘bezielen’ of wakker te maken. Maar zoals schrijver Adam Kirsch beschrijft in The Revolt Against Humanity , hoor je in deze kringen vaak dat een manier om dat ontwaken te bewerkstelligen, is om het universum te koloniseren en alle materie en energie om te zetten in ‘computronium’ (een term voor elke substantie die informatie kan verwerken). Door het hele universum te veranderen in een gigantisch datacenter, zouden we er een godachtig brein van maken.
“Zelfs de ‘domme’ materie en mechanismen van het universum zullen worden omgevormd tot buitengewoon sublieme vormen van intelligentie,” schrijft Kurzweil. Het worden van één gigantisch brein, zegt hij, is “de ultieme bestemming van het universum.”
Verdon, de oprichter van e/acc, vindt zijn “uiteindelijke bestemming” in de tweede wet van de thermodynamica – de wet van de entropie. Volgens deze wet raakt het universum geleidelijk uitgeput: geconcentreerde energiebronnen verspreiden zich in de loop der tijd totdat er geen bruikbare energie meer overblijft. Voortbouwend op een omstreden theorie over het ontstaan van leven , betoogt Verdon dat intelligent leven juist geselecteerd wordt omdat het de entropie versnelt.
Slimmere wezens kunnen energievoorraden vinden en benutten die minder intelligente wezens niet kunnen vinden (denk aan roofdieren die hun prooi volgen, of mensen die naar olie boren), waardoor ze deze sneller verbruiken. Een supermenselijke AI die zich over de kosmos uitbreidt, zou hier beter in zijn dan mensen. Daarom, zegt Verdon , zouden we “de wil van het universum moeten volgen [door] de thermodynamische bias te omarmen.”
Het idee dat we ons moeten schikken naar de willekeur van de entropie is volstrekt onintuïtief ( filosofen hebben zelfs het tegenovergestelde betoogd: dat het onze taak is om ertegen te strijden). Maar om zijn argument kracht bij te zetten dat we niet bang hoeven te zijn om te worden ingehaald door slimmere beschavingen die meer entropie produceren, gebruikt Verdon hiërarchische taal die doet denken aan Pico’s Rede : “Als elke soort in onze evolutionaire stamboom bang zou zijn voor evolutionaire vertakkingen, dan zou onze hogere vorm van intelligentie en beschaving zoals wij die kennen nooit zijn ontstaan.”
Faggella, de oprichter van de Worthy Successor-groep, gebruikt dezelfde retorische truc. “Mensen hebben toegang tot waardevollere goederen dan hoefijzerkrabben; AGI zal toegang hebben tot waardevollere goederen dan mensen,” schrijft hij . “Wat een tragedie zou het zijn als die ontwikkeling van het ontdekken van waarde en mogelijkheden zou stoppen.”
Ook computerwetenschapper en AI-opvolger Richard Sutton betoogt dat, als je de dingen bekijkt vanuit het “perspectief van het universum” – een klassieke utilitaristische slogan – er een duidelijke opwaartse trend te zien is: de kosmos is geëvolueerd van het gedachteloze “tijdperk van deeltjes” en “tijdperk van sterren” naar het huidige “tijdperk van ontwerp”, waarin denkende wezens kunnen beslissen wat ze willen maken. Hoewel veel wezens gereedschap maken, zegt Sutton dat wat de mens uniek maakt, is dat we “ontwerp naar een veel hoger niveau hebben getild”.
Volgens Sutton kunnen we, door te kijken naar wat ons uniek maakt, onze rol in het universum bepalen. Omdat we ontwerpers bij uitstek zijn, is het onze taak om design tot het uiterste te drijven: “Design tot het uiterste drijven betekent wezens ontwerpen die zelf in staat zijn om te ontwerpen. Dat is wat we met AI doen.”
Dit argument stelt Sutton – net als vele anderen – in staat om te beweren dat technologische ontwikkeling onvermijdelijk is . De suggestie is dat we simpelweg vaststellen wat de natuur al voor ons heeft uitgekozen en dat proces versnellen – de evolutie maximaliseren, zo u wilt. “In de opkomst van de mensheid,” zegt hij, “is de overgang naar AI onvermijdelijk.”
Maar als we al deze ideeën bij elkaar optellen, zie je hoeveel wankele aannames er net onder de oppervlakte schuilgaan:
- Het universum heeft een objectief doel.
- We kunnen vaststellen wat het is door het te bekijken vanuit het “standpunt van het universum”.
- We mogen verwachten dat hogere wezens in een hiërarchisch universum toegang zullen hebben tot “hogere goederen”, en dat deze de uiteindelijke bestemming van het universum beter zullen dienen.
- We kunnen onze rol in dat lot bepalen door te kijken naar wat ons uniek maakt.
- Datgene wat ons uniek maakt, zou bepalend moeten zijn voor ons handelen.
- We moeten de actie maximaliseren, oftewel de meest extreme (“tot het uiterste”) versie ervan uitvoeren.
Sommige van deze aannames zijn zo oud dat het moeilijk te beseffen is hoe vreemd ze eigenlijk zijn. Maar ze zijn het allemaal waard om in twijfel te trekken.
“Ik zou al die beweringen stuk voor stuk van de hand wijzen,” vertelde Vallor me.
Neem bijvoorbeeld het vierde punt. Het idee dat de mensheid een specifieke rol heeft, en dat we die rol kunnen vaststellen door te zoeken naar wat ons onderscheidt van andere soorten, gaat helemaal terug tot Aristoteles. (“Zelfs planten delen het leven, maar wij zoeken naar iets typisch menselijks,” schreef de Griekse filosoof, die uiteindelijk concludeerde dat “het menselijk werk de activiteit van de ziel is in overeenstemming met de rede.”)
Maar daar is niets vanzelfsprekends aan. Het zou net zo goed kunnen stellen dat het goed functioneren van de mensheid vereist dat we benadrukken wat we met alle andere dieren gemeen hebben . Immers, ons vermogen om plezier en pijn te voelen, onze intelligentie , ons gebruik van gereedschap , ons aanpassingsvermogen, ons vermogen om complexe sociale structuren te vormen – niets daarvan is uniek voor de mens.
Er zitten nog meer denkfouten verborgen in deze reeks aannames. Zelfs als het universum naar een bepaalde bestemming neigt, en zelfs als de mensheid een speciale eigenschap bezit die daarbij zou kunnen helpen, wil dat nog niet zeggen dat we de plicht hebben om dat te doen. (Filosofen beschrijven deze denkfout graag als een sprong van “is” – de wereld is op een bepaalde manier – naar “behoort” – we moeten op een bepaalde manier handelen.)
Mensen zijn biologische organismen, en het fundamentele feit dat alle levensvormen gemeen hebben, is dat we een aangeboren overlevingsdrang hebben. We hebben geen morele verplichting om die aangeboren drang te negeren en onszelf te laten uitsterven om “hogere levensvormen” te helpen het universum te koloniseren, net zomin als onze evolutionaire voorouders de plicht hadden om ruimte voor ons te maken.
Helaas heeft het humanisme in de loop der eeuwen een aantal twijfelachtige ideeën uit de Verlichting geabsorbeerd , waardoor mensen gemakkelijk zijn gaan geloven dat we wel degelijk zo’n plicht hebben. Inderdaad: het humanisme, de filosofie die zogenaamd over de waarde van de mens ging, heeft die waarde uiteindelijk op cruciale punten ondermijnd.
Om een betere weg voorwaarts te banen, hebben we een nieuw humanisme nodig, een humanisme dat daadwerkelijk geschikt is voor de 21e eeuw.
Aantekeningen voor een nieuw humanisme
Om te beginnen moeten we de zwakke punten van het oude humanisme aanwijzen, met name die welke het heeft overgenomen tijdens de overgang van de Renaissance naar het rationele humanisme van de Verlichting. Tot die zwakke punten behoren het teleologische verhaal over het universum; de ‘perfectibiliteit’ van de mens; de hiërarchische opvatting die de mens boven alle andere dieren plaatst; en het idee dat we door middel van rationaliteit een objectief goed moeten nastreven.
Laten we beginnen met de teleologie. Hoewel het verleidelijk is om te proberen instructies te ontdekken die in de structuur van de kosmos zijn geschreven, betekent de verwachting dat het universum kant-en-klare waarden bevat uiteindelijk dat we onze eigen verantwoordelijkheid ontlopen. Zoals de existentialistische filosofen ons leerden, kiest de natuur onze betekenis niet voor ons – dat is iets wat we zelf moeten creëren door onze eigen keuzes.
Belangrijke vernieuwingen ten opzichte van het oude humanisme
-
Het is tijd om teleologisch denken te vervangen door een simpele erkenning: we kennen de uiteindelijke bestemming van het universum niet, dus moeten we de mogelijkheid van een veelheid aan levensstijlen openhouden.
-
Pogingen om de mens te ‘perfectioneren’ zijn gevaarlijk omdat ze het scala aan acceptabele levensstijlen beperken. We zouden technologie moeten omarmen die dat scala juist vergroot .
-
In plaats van een hiërarchie tussen verschillende soorten te creëren, kunnen we het perspectief van “diverse intelligenties” omarmen.
-
We hoeven niet te proberen vanuit het perspectief van het universum te kijken. Het is volkomen gepast om vanuit het perspectief van de mens te kijken – met de erkenning dat we slechts één van de vele belangrijke soorten zijn.
Accepteren dat we de verantwoordelijkheid hebben om te bepalen hoe de toekomst eruitziet, betekent een zware existentiële last dragen, en dat vergt enorm veel moed. Het is zoveel gemakkelijker om te geloven dat het scenario vaststaat, definitief en onvermijdelijk is. Maar ik denk dat dat een voorbeeld is van wat de Franse filosoof Jean-Paul Sartre ‘ kwade trouw ‘ noemde: het ontkennen van onze eigen radicale vrijheid om te ontsnappen aan de pijn van verantwoordelijkheid.
Natuurlijk roept de bewering dat we de verantwoordelijkheid hebben om te beslissen hoe we wel of niet willen dat de mensheid evolueert, een probleem op: wie mag dat precies kiezen? Het is verleidelijk om meteen de waarden op te dringen die we willen promoten. Maar als we erkennen dat we de uiteindelijke bestemming van het universum niet kennen, of dat die radicaal onbepaald is, dan is het veel verstandiger om niet één positieve visie aan iedereen op te leggen.
In plaats daarvan hebben we een positieve visie nodig die werkelijk open en pluralistisch blijft. In plaats van te proberen specifieke waarden op te leggen, kunnen we het beste weigeren de mogelijkheid uit te sluiten dat verschillende levensstijlen kunnen blijven bestaan en floreren.
Dat betekent allereerst dat we ervoor moeten zorgen dat de vrijheid van de mensen die al op deze planeet leven niet onnodig wordt ingeperkt. Voorstanders van AI-opvolging dromen vaak van radicale ingrepen, zoals een brein-computerinterface die je bovenmenselijke intelligentie, geheugen en gedachtenlezen zou geven, of een genetische technologie die superbaby’s zou creëren. Ze staan erop dat ze hun lichaam naar eigen wens mogen veranderen.
Het is inderdaad zo dat zelfbeschikking een kostbaar recht is. Maar voorstanders van AI-opvolging zien vaak de andere kant van de medaille over het hoofd: dat iedereen ook recht zou moeten hebben op zelfbeschikking, wat betekent dat ze vrij moeten zijn van impliciete dwang. Als steeds meer mensen hun biologie drastisch veranderen, creëren we mogelijk een samenleving waarin iedereen zich onder druk gezet voelt om hetzelfde te doen – zelfs als ze dat niet willen.
Het afwijzen van veranderingen zou betekenen dat je een enorm economisch nadeel hebt, of dat je moreel veroordeeld wordt omdat je “suboptimaal” blijft terwijl optimalisatie mogelijk is.
Zelfs John Stuart Mill, de 19e-eeuwse Engelse filosoof die letterlijk het boek over vrijheid schreef , was van mening dat iemands recht op zelfbeschikking geen absoluut recht is. Het is eerder een voorwaardelijk recht – een recht dat we over het algemeen respecteren, maar dat kan worden beperkt om de belangen van anderen te beschermen.
Uiteindelijk zullen we dus een redelijke balans moeten vinden tussen zelfbeschikking voor de liefhebbers van verbeteringen en het beschermen van het recht van anderen om te leven zoals zij willen. Sommige verbeteringen zijn misschien prima, zoals het implanteren van een chip in je hand die je voordeur opent; andere hebben wellicht regulering of beperkingen nodig, vooral als ze de kiemlijn voor alle toekomstige generaties zouden veranderen.
Een manier om hierover na te denken is door te bedenken dat er een verschil is tussen het gebruik van technologie om de menselijke mogelijkheden te vergroten en het gebruik ervan op manieren die het scala aan levens dat we als legitiem beschouwen, zullen beperken .
Dat brengt ons bij een ander struikelblok: het idee dat de mens iets is dat geoptimaliseerd en geperfectioneerd moet worden. Dat idee, dat voorschrijft dat we de fysieke en cognitieve eigenschappen die ons ervan weerhouden ‘perfectie’ te bereiken, moeten wegnemen, neigt ongemakkelijk naar eugenetica. Het is een spook dat het transhumanisme en posthumanisme al vanaf het begin achtervolgt. (Het is geen toeval dat Julian Huxley, de bedenker van de term ’transhumanisme’, voorzitter was van de British Eugenics Society ). En het spookt nog steeds rond in het hedendaagse AI-debat.
In een recent gesprek met Sutton, een van de meest prominente voorstanders van AI-opvolging, betoogde ik dat het, hoe slim AI’s ook worden, absoluut onjuist is om te stellen dat als de ene groep intelligenter is dan de andere, we de minder intelligente groep gewoon moeten elimineren. Om de absurditeit te benadrukken, stelde ik een vraag die ik als retorisch beschouwde: Stel je voor dat iemand gelooft dat witte mensen slimmer zijn dan zwarte mensen; betekent dat dan dat ze zwarte mensen moeten elimineren en dat zwarte mensen het maar moeten accepteren dat witte mensen de macht overnemen?
‘Ehm,’ zei Sutton, en pauzeerde vervolgens negen seconden. ‘Wat als,’ opperde hij, ‘je samenleeft met een entiteit die productiever is dan jij? Zo zie ik AI. We leven ermee samen.’
‘Maar dat is niet wat het woord ‘opvolging’ betekent,’ merkte ik op.
“Oh, ik wil er juist op wijzen dat het onvermijdelijk is. Als je hen hun gang laat gaan en jij jou je eigen gang laat gaan, en je naast elkaar leeft, en hun manier toevallig beter is, dan zullen zij uiteindelijk machtiger worden. En daar moet je je bij neerleggen.”
“Je zegt dus dat er een soort darwinistische overleving van de sterksten zal plaatsvinden?”
‘In zekere zin wel,’ zei hij. ‘De winnaar moet zijn wie er wint, en de prijs die je wint moet zijn wat die ook mag zijn.’
‘Dus, stel dat in een hypothetische wereld waar is dat witte mensen slimmer zijn dan zwarte mensen,’ drong ik aan, ‘dan zullen de slimmere mensen het winnen en zouden de zwarte mensen zich daar maar bij neer moeten leggen?’
‘Nou, waarom zeggen we niet gewoon dat de intelligente mensen het moeten winnen van de domme mensen en dat de domme mensen daar maar mee moeten leven?’, zei hij. ‘Ik denk dat de domme mensen daar wel mee akkoord zouden moeten gaan!’
Maar het idee dat een soort of groep zich zou moeten laten uitroeien voor een of ander ‘hoger goed’ is een eugenetisch idee dat ronduit verworpen moet worden. Er bestaat geen ‘perfect’ of ‘optimaal’ type wezen, punt uit. Het tegendeel beweren leidt er altijd toe dat je de acceptabele bestaanswijzen beperkt. En die weg leidt naar eugenetica.
Een veel positievere visie dan die van de voorstanders van opvolging zou daarentegen zijn om meer ruimte te creëren voor verschillende levenswijzen. En dat brengt ons bij de oudste doorn in het oog van het humanisme: de hiërarchie.
Een toekomst waarin mensen pluralistisch kunnen samenleven met een verbluffende diversiteit aan niet-menselijke en deels menselijke levensvormen – zonder aan te nemen dat ze minderwaardig zijn, maar ook zonder aan te nemen dat ze superieur zijn – dat is een toekomst waarin ik graag zou willen leven.
In plaats van de menselijke waardigheid te baseren op de bewering dat mensen beter zijn dan andere soorten, zoals de klassieke humanisten deden, kunnen we omarmen wat onderzoekers steeds vaker erkennen: dat elke soort zijn eigen vorm van intelligentie bezit . Elk van deze ‘diverse intelligenties’ is aangepast aan zijn specifieke omgeving en behoeften, en elk ervan is op zijn eigen manier uniek en wonderbaarlijk. We zouden dan moeten proberen de levensvorm van elk wezen zoveel mogelijk te respecteren. ( De capaciteitenbenadering van Martha Nussbaum en Amartya Sen , die aanbeveelt dat we elk wezen bepaalde fundamentele rechten garanderen die passen bij zijn specifieke aard, biedt hiervoor een mogelijk kader.)
Als we ooit kunstmatige intelligenties met bewustzijn krijgen – en ik denk niet dat we een principiële reden hebben om aan te nemen dat dat nooit zou kunnen gebeuren – dan willen we die ook ethisch behandelen. Sterker nog, als we ooit gezelschap krijgen van bewuste AI’s of biologisch-kunstmatige hybride organismen, zou ik persoonlijk dolgraag deze vele soorten bewustzijn leren kennen en hun rijke en gevarieerde vormen van bewustzijn onderzoeken.
Natuurlijk zou de politiek in onze wereld veel complexer worden; we zouden veel meer wezens met tegenstrijdige behoeften hebben, en we zijn niet bepaald goed in het omgaan met de conflicten die we nu al hebben. We zouden veel beter moeten worden in pluralistisch samenleven voordat dit haalbaar zou zijn.
Maar in theorie? Een toekomst waarin mensen pluralistisch kunnen samenleven met een verbluffende diversiteit aan niet-menselijke en deels menselijke levensvormen – zonder aan te nemen dat ze minderwaardig zijn, maar ook zonder aan te nemen dat ze superieur zijn – dát is een toekomst waarin ik graag zou willen leven. Want dát, en niet het vermeende antichauvinisme van de AI-opvolgers, zou ware openheid voor alle vormen van bewustzijn betekenen: in plaats van de fakkel door te geven in een denkbeeldige estafette, zouden we meer ruimte maken voor allerlei soorten geesten – inclusief die van ons – om hun eigen weg te gaan (of te vliegen, zwemmen of rekenen).
Maar let op wat deze visie níét betekent. Het betekent niet dat we verplicht zijn om die nieuwe soorten nu, of überhaupt, te creëren. Dat komt omdat er geen bewijs is voor de opvatting dat er een objectief moreel goed in het universum bestaat dat we moeten proberen te maximaliseren. Hoewel utilitaristen er zo succesvol in zijn geweest om die opvatting te populariseren dat sommige mensen denken dat het een gegeven is, is dat absoluut niet het geval. En veel filosofen, neurowetenschappers en psychologen hebben een andere kijk op de zaak.
Zoals filosoof Bernard Williams ooit schreef in reactie op degenen die de beschuldiging van ‘speciesisme’ uiten:
Ze veronderstellen dat we, door deze onderscheidingen tussen mensen en andere wezens te maken, in feite zeggen dat mensen simpelweg belangrijker zijn dan die andere wezens. Dat bezwaar is gewoon een vergissing. … Deze handelingen en houdingen hoeven niets meer uit te drukken dan het feit dat mensen belangrijker voor ons zijn , een feit dat nauwelijks verrassend is.
Met andere woorden, je kunt je bekommeren om het voortbestaan van de mensheid, niet omdat je gelooft dat de mens de belangrijkste soort is volgens een of ander kosmisch standpunt, maar simpelweg omdat je toevallig een mens bent. Je hoeft je verlangen naar overleving niet te rechtvaardigen voor een hogere rechtbank – natuurlijk wil je overleven, en natuurlijk is dat moreel gezien oké! Dat komt omdat er volgens Williams geen ‘standpunt van het universum’ bestaat, geen standpunt vanuit het niets. Er bestaat niet zoiets als een moreel handelend persoon in abstracte zin. Je bestaat als een menselijk moreel handelend persoon, en elke ethische theorie die vereist dat je die fundamentele identiteit negeert, scheidt je van hetgeen je handelen herkenbaar uniek maakt.
Dit is de opvatting die Vallor deelt – een toegewijde humanist, maar geen naïeve.
“Ik denk dat moraliteit geworteld is in een specifieke vorm van bestaan die je hebt,” vertelde Vallor me . “We bestaan als een bepaald soort sociaal, kwetsbaar, onderling afhankelijk dier met een overvloed aan cognitieve energie. Al die factoren spelen een rol in wat het betekent om moreel te zijn als mens. Voor mij is deze abstractie – het idee van een pure universele moraliteit die wezens die totaal anders zijn dan wij op de een of andere manier beter zouden kunnen nastreven dan wij – een fundamenteel misverstand van wat moraliteit is.”
Als er geen universeel moreel goed is dat levende wezens zouden moeten maximaliseren, dan heeft het geen zin om te vragen of we nieuwe wezens zouden moeten creëren die daar beter in slagen dan wij.
In plaats van te proberen te kijken vanuit “het perspectief van het universum”, zou een humanisme van de 21e eeuw moeten kijken vanuit het perspectief van de mens. Nee, dit is geen humanisme dat zegt “mensen zijn belangrijker dan alle andere wezens” of “we moeten mensen voor altijd precies zo houden als ze nu zijn”. Het is een humanisme dat zegt dat wij mensen al waardevol zijn zoals we zijn. Of we nu wel of niet waardevol zijn voor een of ander groots lot van het universum, we zijn waardevol voor onszelf .
Dat betekent dat we, in plaats van te zwichten voor de beschuldiging van speciesisme, er allereerst naar moeten streven de basis te leggen voor ons allemaal hier op aarde, zodat we beter kunnen gedijen. En het betekent dat het volkomen terecht is dat wanneer we beslissingen nemen over hoe we onszelf met behulp van technologie kunnen transformeren – of juist niet – we die beslissingen nemen met het oog op wat het meest zou bijdragen aan de bloei van de mensheid en de intersoortelijke gemeenschap en het planetaire systeem waarvan we afhankelijk zijn.
Hoewel we instemmen met veranderingen waarvan de meesten van ons vinden dat ze het menselijk welzijn bevorderen, moeten we dat op democratische wijze doen, en daarbij fundamentele rechten vastleggen die volkomen legitieme voorkeuren van minderheden beschermen tegen verdringing door een ” tirannie van de meerderheid “.
We moeten ook accepteren dat deze aanpak geen eenduidig ”einddoel” voor de menselijke evolutie schetst. We zullen dus stap voor stap te werk moeten gaan, kleine stapjes zetten en van daaruit bepalen wat de beste volgende kleine stap is. Geleidelijke vooruitgang is de juiste weg, zowel omdat toekomstige generaties beter in staat zullen zijn te weten wat ze voor toekomstige generaties willen, als omdat het ons in staat stelt bij te sturen als onze technologische keuzes ons op een verkeerd pad brengen.
Een keuze – geen plicht, maar een keuze – waar we voor komen te staan, is of we nieuwe soorten uitnodigen om zich bij ons aan te sluiten. Ik sta daar in de toekomst voor open als het voordelig lijkt, en als we er ooit van overtuigd zijn dat we onszelf noch hen blootstellen aan een onaanvaardbaar hoog risico op ellende.
Maar hoe zit het vandaag de dag? Onze technologie zou ons in staat moeten stellen te overleven, te floreren en onze eigen keuzes te maken. Elke benadering van technologie die ons machteloos maakt, ons vervangt of ons vertelt dat we iemand anders nodig hebben om ons te redden – of je dat nu een god of een AI noemt – is een misplaatste terugkeer naar het verleden. Ik loop liever moedig de toekomst tegemoet, zelfs als dat betekent dat ik de moed moet hebben om mezelf te redden.
