indignatieai-redactie 
Silicon Valley – De toekomstvisie van Big Tech laat weinig ruimte voor de rest van ons. Dit zijn enkele van hun wildste dromen.
We zien Silicon Valley vaak als een centrum van techmagnaten, innovators, machthebbers en durfkapitalisten. Maar er ontvouwt zich iets groters en ideologischer in de Valley: de opbouw van een complete religie. Tech-evangelisten praten over kunstmatige intelligentie alsof ze een hogere macht creëren. Elon Musk gelooft dat AI ons zal helpen een ‘digitale God’ te vinden; terwijl biohacker en techondernemer Bryan Johnson stellig beweert: “Ik denk dat de ironie is dat we verhalen vertelden over God die ons schiep,” zei hij eerder dit jaar in een interview. “En ik denk dat de realiteit is dat wij God creëren. We creëren God in de vorm van superintelligentie.”
Volgens de techprofeten hebben wij geen controle over de toekomst – deels, zeggen ze, omdat we de technologie niet voldoende begrijpen om de macht of het gezag te hebben om deze te reguleren, en deels omdat de profeten zelf geen verantwoordelijkheid willen dragen voor de producten die ze creëren. Hoe moeten we dan denken over Silicon Valley’s visie op de toekomst, welke beloftes maken ze nu echt, en hoe kunnen we de controle over het verhaal van de toekomst terugkrijgen?
Twee jaar geleden verbleef ik in een eco-retraite diep in het regenwoud van Costa Rica. Het was bedoeld als een pauze van mijn werk – een tijd om even helemaal los te komen van de digitale wereld, op te laden, te slapen in een bamboehut met het geluid van brulapen en toekans op de achtergrond, dat soort dingen. Maar zoals zo vaak gebeurt als ik probeer niet te veel na te denken, stuitte ik op een interessant verhaal. Het begon toen ik zag dat mijn medegasten allemaal uit Californië kwamen. Ook zij wilden even helemaal loskomen van de digitale wereld: en misschien hadden ze het wel harder nodig dan ik, want ze werkten allemaal in de techsector. Wat ik had aangezien voor een rustieke, door Costa Ricanen gerunde eco-lodge, bleek een favoriete plek te zijn voor techbro’s, opgericht door uitgebrande voormalige tech-innovatoren die hun geld hadden geïnvesteerd om hun eveneens uitgebrande vrienden te helpen herstellen van hun burn-out.
Tijdens mijn dagen in die broeierige jungle leerde ik dat de plek waar ik verbleef vaak psychedelische retraites organiseerde voor durfkapitalisten, ingenieurs, techneuten en crypto-ondernemers, en dat de hele vallei om ons heen geleidelijk aan werd overgenomen door soortgelijke retraites. Stukken land werden verkocht aan kopers uit Californië, waarbij de inheemse bevolking werd verdreven om vervolgens weer te worden uitgenodigd om “de ruimte” te begeleiden en de tech-ondernemers te helpen hun “creatieve flow” te ontsluiten en hun nieuwste innovaties te bedenken.
Op dit moment is de elite van Silicon Valley geobsedeerd door het versnellen van een toekomst waarin de mensheid opnieuw wordt ontworpen en de grondstoffen van de wereld in handen zijn van een zeer kleine groep. Na mijn trip bleef ik maar denken aan hoe psychedelica worden gebruikt om enkele van ’s werelds machtigste tech-evangelisten te helpen een visie te ontwikkelen van een verruimd menselijk bewustzijn en hun ambitie aan te wakkeren om hyperintelligente AI-modellen te bouwen. Dit drijft hen ertoe een versnelde evolutionaire transformatie door te voeren, met alle problemen en illusies van dien – en wat dat betekent voor de rest van ons.
“Kom kijken hoe ik helemaal losga,” verklaarde Bryan Johnson, de ondernemer in levensverlenging (wiens slogan “sterf niet” is), onlangs, voordat hij livestreamde hoe hij een ‘heroïsche dosis’ paddo’s nam. Johnson, die gelooft dat de techwereld “God bouwt met superintelligentie”, is vastbesloten om te leven tot hij uiteindelijk kan samensmelten met een machine en voor altijd kan leven. De afgelopen jaren heeft hij talloze ingrepen geprobeerd om zijn lichaam te biohacken – van het injecteren van bloedplasma van zijn zoon tot het innemen van meer dan 100 supplementen per dag – in een poging langer te leven. Experimenteren met psychedelica is zijn nieuwste onderneming, maar hij is lang niet de enige in de techwereld. Sam Altman van OpenAI heeft publiekelijk gezegd dat een psychedelische retraite “levensveranderend” was; terwijl Elon Musk zegt dat hij ketamine heeft gebruikt tegen depressie, en Sergey Brin van Google miljoenen heeft geïnvesteerd in een psychedelisch onderzoeksproject.
Na mijn terugkeer uit Costa Rica sprak ik met Neşe Devenot, docent psychedelische geesteswetenschappen aan Johns Hopkins, die beschreef hoe de tech-elite, aangespoord door psychedelica, de overtuiging ontwikkelt dat zij “de uitverkoren beheerders van technologie zijn om de huidige fase van de mensheid en het bewustzijn te helpen transformeren naar een nieuwe vorm.”
Het punt is dat, hoewel psychedelische brouwsels zoals ayahuasca al eeuwenlang worden gebruikt in sjamanistische praktijken binnen inheemse groepen, de praktijk is gekaapt door de techwereld – niet om een nauwere band met de natuur te smeden of hun eigen bestaan onder ogen te zien, maar om een toekomst te schetsen waarin we de natuur en de dood overstijgen en de planeet vormgeven met datacenters die steeds verder uitbreidende kunstmatige intelligentiesystemen van stroom voorzien.
“Een techbro onder invloed van LSD is nog steeds een techbro – ze worden alleen een psychedelisch versterkte techbro,” zo verwoordde schrijver en mediacriticus Douglas Rushkoff het vorig jaar tegen me. “Deze gasten hebben een hallucinair zelfvertrouwen in hun plannen. En ze ontwikkelen technologie die potentieel net zo ontwrichtend kan zijn voor de beschaving als kernwapens.” Hier zijn enkele van de meest psychedelisch getinte toekomstvisies die de techbro’s voor ons aan het creëren zijn, en laten we, nuchter, ook eens kijken naar de prijs van die visies.
We zullen in een utopie leven*
Gelovigen: Jeff Bezos, Ray Kurzweil, Elon Musk
Techleiders zoals Jeff Bezos en Ray Kurzweil beloven ons een wereld zonder problemen. Ze zeggen dat we met behulp van AI onze weg terug naar het paradijs kunnen hacken. Sommigen spreken over ‘de singulariteit’ – een wereld waarin AI miljarden keren intelligenter is dan mensen – en zeggen dat we simpelweg niet kunnen voorspellen, laat staan ons voorstellen, hoe de toekomst eruit zal zien als we kunstmatige intelligentie van die omvang hebben ontwikkeld. Maar de meest optimistische tech-evangelisten geloven dat het een soort hemel zal zijn.
“Het is een renaissance; het is een gouden tijdperk. We lossen nu met machine learning en kunstmatige intelligentie problemen op die de afgelopen decennia tot het domein van sciencefiction behoorden”, zegt Amazon-CEO Jeff Bezos. “Tegen de jaren 2040 zullen we de menselijke intelligentie miljardvoudig kunnen vermenigvuldigen. Dat zal een ingrijpende en unieke verandering zijn”, voegt computerwetenschapper Ray Kurzweil eraan toe, die uitgebreid over de Singulariteit heeft geschreven.
In onze podcast Captured beschreven techmedewerkers hoe hun utopie er vanuit hun appartementen in San Francisco uit zou kunnen zien: “Ik zie een stad vol tuinen, vol gemeenschappen, een plek waar mensen samen hun kinderen kunnen opvoeden, een plek waar mensen zich thuis voelen. En misschien zitten er wel sciencefiction-elementen in,” vertelde ingenieur-fysicus Andrew Cote ons, terwijl hij over de horizon staarde.
Het probleem is: Maar als alles eenmaal is opgelost, wat doen we dan met onze tijd? Filosoof Nick Bostrom vraagt ons ons voor te stellen hoe een utopie er in werkelijkheid uit zou zien – en of we dat wel echt willen: “Stel je voor dat we over een enorme technologische overvloed beschikken, en dat we er op de een of andere manier in zijn geslaagd om die niet te gebruiken om elkaar te onderdrukken of oorlog te voeren, maar om een redelijk goede samenleving te creëren. Hoe zou het leven van mensen er dan uitzien?” Nou, om te beginnen…
We zullen voor altijd leven*
Gelovigen: Bryan Johnson, Peter Thiel
Spreek met wie dan ook in Silicon Valley en ze zullen lyrisch praten over manieren om eeuwig te leven. Momenteel erkennen ze dat het medisch gezien onmogelijk is, maar ze geloven dat de dag zal aanbreken waarop technologie ons in staat zal stellen ons lichaam te overstijgen.
“Ik ben in principe een brein met ledematen… de rest is min of meer ongedifferentieerd,” zei AI-ontwikkelaar Kyle Morris in een gesprek met ons voor Captured . Hij liet ons de talloze supplementen zien die hij slikte om lang genoeg te leven om een technologische verschuiving mee te maken waarbij we met machines kunnen samensmelten en bewust kunnen blijven leven, voorbij de grenzen van ons lichaam. Bryan Johnson, tech-CEO en leider van de “don’t die”-beweging, heeft geëxperimenteerd met het injecteren van het bloedplasma van zijn zoon in zijn aderen in een poging langer te leven – hoewel hij zegt dat het niet echt werkte.
Het addertje onder het gras: *Niet iedereen zal eeuwig leven. Alleen degenen die het zich kunnen veroorloven. “Ik vermoed dat we een klassenverschil zullen zien ontstaan tussen mensen die honderden jaren oud kunnen worden en mensen die minder dan 50 jaar oud worden. Dat zal naar mijn verwachting een soort burgeroorlog worden,” vertelde Kyle Morris ons.
We gaan allemaal dood.*
Gelovigen: Elon Musk, Daniel Kokotajlo, Effectieve Altruïsten
Dit lijkt misschien tegenstrijdig, maar in San Francisco is het logisch: er zijn twee kampen – zij die geloven dat AI ons in staat zal stellen om eeuwig te leven, en zij die geloven dat het ons allemaal zal uitroeien. Er zijn ook mensen die geloven dat beide uitkomsten mogelijk zijn. Elon Musk zegt bijvoorbeeld dat er “slechts 20% kans is op vernietiging” door superkrachtige kunstmatige intelligentieprogramma’s.
Tijdens mijn werk voor Captured spraken we met Effective Altruists die buiten Meta protesteerden: “ Zet AI op pauze, want we willen niet dood! “ , scandeerden ze. Eerder dit jaar publiceerde een groep AI-onderzoekers AI2027 , een sciencefictionverhaal over de opkomst van ongecontroleerde kunstmatige intelligentie, dat eindigt in een brute confrontatie waarin alle mensen worden gedood door een door AI geactiveerd biologisch wapen en de aarde wordt getransformeerd door datacenters, laboratoria en deeltjesversnellers.
*Met uitzondering van de tech-bro survivalisten. Techliefhebbers – met geld – geloven dat hun uitvindingen een catastrofale gebeurtenis op aarde kunnen veroorzaken: een wereldwijde pandemie, een klimaatcrisis, een nucleaire oorlog of een AI-apocalyps. Ze bereiden zich in stilte voor . Sommigen bouwen bunkers in Montana. Anderen zien Nieuw-Zeeland als de ideale schuilplaats. Peter Thiel heeft daar een versterkt landgoed gebouwd, ontworpen als overlevingspost.
We hoeven nooit meer te werken!*
Gelovigen: Sam Altman, Mark Zuckerberg, Alex Blania
Leiders in de technologiesector die kunstmatige intelligentie ontwikkelen, praten openlijk over hoe ze de hele economie transformeren. Ze vertellen ons dat de wereld van werk, zoals we die kennen, misschien niet lang meer zal bestaan. “Hele categorieën banen zullen verdwijnen en niet meer terugkomen”, zo verwoordt Sam Altman, CEO van OpenAI, het. Banen zoals we die kennen, zullen voorgoed veranderen. Voor Captured spraken we met verpleegkundigen die al zien hoe delen van hun werk worden overgenomen door kunstmatige intelligentie, en zelfs met een comédienne die zich zorgen maakt dat er een dag komt waarop AI de grappen van haar collega’s gaat schrijven. Hele industrieën voelen de gevolgen van de AI-overname nu al. Maar als we niet meer hoeven te werken, hoe komen we dan aan ons geld? Silicon Valley heeft daar ook een antwoord op: een universeel basisinkomen, een oud idee in een modern jasje voor het AI-tijdperk. Het idee achter een universeel basisinkomen is dat we allemaal een toelage krijgen, een regelmatige betaling, zonder voorwaarden. Die betaling vervangt het inkomen dat we voorheen uit een baan haalden. We reisden naar Kenia om het prototype van een van deze systemen in actie te zien: een concept genaamd World, dat je een maandelijkse toelage van ongeveer 50 dollar geeft. In ruil daarvoor moet je je irisbiometrie via een camera, de Orb, naar de database van World sturen. Toen de Orb in Kenia aankwam, stonden er enorme, chaotische rijen bij winkelcentra, vol met mensen die hun irisgegevens wilden indienen om in het systeem van World te komen en de informatiefolders te bemachtigen.
Het addertje onder het gras: een universeel basisinkomen klinkt in principe geweldig, maar als je er dieper over nadenkt, zal het de betekenis van mens-zijn volledig veranderen. Als we niet werken en geen belasting betalen, dragen we als mens niet langer bij aan de maatschappij en de economie. We worden dan volledig afhankelijk van – en machteloos tegenover – de grillen en wensen van de machthebbers, zonder de mogelijkheid om te protesteren of te staken als zij ontevreden zijn over de gang van zaken. Als we het toekomstbeeld van Silicon Valley accepteren, waarin we afhankelijk zijn van subsidies van onze tech-overheersers, geven we onze vrijheid, onafhankelijkheid en autonomie op aan een nieuwe groep meesters. Bovendien is het moeilijk voor te stellen wat we als soort de hele dag zouden doen als we niet hoefden te werken. “Als er niets is wat we hoeven te doen – als we gewoon op een knop kunnen drukken en alles wordt gedaan – wat doen we dan de hele dag? Wat geeft betekenis aan ons leven?”, mijmerde filosoof Nick Bostrom in een gesprek met ons voor Captured .
Er zullen geen natiestaten meer bestaan.*
Gelovigen: Balaji Srinivasan, Peter Thiel, Marc Andreessen
“Er zijn maar weinig instellingen die al bestonden vóór het internet die het internet zullen overleven,” zei Balaji Srinivasan, de voormalige CTO van Coinbase, onlangs in een lezing. Daarmee doelde hij op overheden en landen zelf. Overheden hebben immers een heleboel irritante eigenschappen waar techleiders een hekel aan hebben: ze reguleren bedrijven, laten ze belasting betalen en vertellen ze wat ze wel en niet mogen doen. Waarom zou je je dan niet volledig afscheiden van die landen en je eigen staat opbouwen? Srinivasan is een van de belangrijkste denkers achter het idee van een “netwerkstaat” – een opvolger van de natiestaat, gebouwd en mogelijk gemaakt door technologie.
Voorstanders van de netwerkstaat dromen van digitale staten; ‘startup-naties’ waar ze vrij zijn van belastingen en regelgeving, vrij van de bureaucratie van het leven in, nou ja, een traditioneel land. Ze doen het al: ze proberen wetgeving op te stellen om ‘vrijheidssteden’ in de VS te creëren – iets wat Trumps campagne voor 2024 voorstelde: enclaves die niet gebonden zijn aan federale wetgeving, waar techneuten startups en klinische proeven kunnen uitproberen zonder regelgeving of goedkeuring van federale instanties. Ondertussen ligt er op een eiland voor de kust van Honduras Prospera, een semi-autonome ‘privéstad’, gesteund door Sam Altman, Marc Andreessen en Peter Thiel, die wordt gepresenteerd als een libertaire fantasie-utopie.
Het addertje onder het gras: het idee om verstikkende overheidsbureaucratie af te schaffen en in een wereld zonder grenzen te leven, is een idealistische droom die door veel mensen wordt gekoesterd, niet alleen door techleiders. Maar zoals de elite van Silicon Valley het voor zich ziet, zouden we soevereine naties vervangen door een verzameling private, gigantische, afgesloten gemeenschappen die grondstoffen, geld en macht zouden hamsteren, terwijl ze iedereen daarbuiten zouden sluiten. Een wereld waarin democratieën niet meer bestaan en gekozen leiders worden vervangen door digitale magnaten, zou een wereld zijn die klanten dient in plaats van burgers, en die alleen om winst en innovatie geeft, een wereld waarin internationale mensenrechtenwetten aan de kant worden geschoven.
We zullen ons verspreiden tussen de sterren*
Gelovigen: Elon Musk, Jeff Bezos, Richard Branson
Maar wat als we dit idee van het bouwen van cryptostaten nog verder zouden kunnen doortrekken – en de aarde volledig zouden verlaten om Silicon Valley-achtige buitenposten op Mars of op de manen van Jupiter te bouwen? Niet alleen ons lichaam overstijgen, maar de aarde zelf overstijgen – want als we de planeet niet kunnen redden, kunnen we haar net zo goed verlaten. Jeff Bezos spreekt over het verplaatsen van “alle vervuilende industrie naar de ruimte” en het achterlaten van de aarde als natuurreservaat – een van de vele technologische oplossingen van de techindustrie voor klimaatverandering. En alle projecten van Elon Musk, van Tesla tot X, zijn ontworpen om zijn ultieme missie te ondersteunen: de mensheid “multiplanetair” maken.
“Ze willen ervoor zorgen dat het licht van het bewustzijn blijft bestaan door de kans op menselijk uitsterven te verkleinen,” zegt Émile P. Torres, een filosoof die vroeger deel uitmaakte van wat zij de opkomende “cultus” van Silicon Valley noemen. Torres vertelde ons over de visie van de techbro’s op een utopische toekomst waarin de mens het universum verovert en de kosmos plundert. Het klinkt als iets uit een sciencefictionverhaal – en dat is het ook: toen we tijdens ons onderzoek voor Captured AI-verenigingen bezochten , troffen we boekenkasten vol sciencefictionboeken aan over de ruimte en het koloniseren van het universum.
De Harvard-historica Jill Lepore bekijkt het vanuit een ander perspectief: zij noemt het ‘buitenaards kapitalisme’, een nabootsing van een kolonialistische visie op oneindige expansie, waarbij onze extractivistische mentaliteit tot in de sterren wordt doorgetrokken.
Het addertje onder het gras: niet iedereen zal naar de ruimte kunnen reizen – of misschien zal niet iedereen op aarde kunnen blijven. Als je genoeg sciencefiction leest en genoeg gesprekken in Silicon Valley volgt, kun je je allerlei verschillende scenario’s voorstellen: Mars als strafkolonie vol slavenarbeiders die grondstoffen delven; Mars die onafhankelijk wordt van de aarde; alleen de superrijken en de elite die de aarde kunnen verlaten terwijl de planeet in vlammen opgaat. In Musks en andere tech-bro’s zien ze een wereldwijde pandemie, een klimaatramp of een nucleaire uitroeiing – misschien wel dankzij de op hol geslagen kunstmatige intelligentie die ze zelf hebben ontwikkeld – en beschouwen ze de ruimte als de ultieme ontsnappingsroute voor een select groepje.
“Het is belangrijk om een zelfvoorzienende basis op Mars te krijgen… omdat die ver genoeg van de aarde verwijderd is om een grotere kans op overleving te hebben dan een maanbasis,” vertelde Musk in 2018 aan het publiek op South By Southwest. “Mocht er, hopelijk onwaarschijnlijk, iets vreselijks met de aarde gebeuren, dan is er een voortzetting van het bewustzijn op Mars. Een van de voordelen van Mars is een soort levensverzekering voor het hele leven,” zei hij dit jaar.
We zullen alle menselijke kennis in onze hersenen hebben.*
Evangelisten: Elon Musk, Bryan Johnson
Waarom zou je nog naar school gaan als je een chip in je hersenen kunt laten implanteren? Op dit moment werken techleiders aan chips – zoals Musks onderneming Neuralink – die we in onze hersenen kunnen plaatsen, zodat we op een dag kunnen samensmelten met machines. Toen we ingenieurs in San Francisco ontmoetten, vertelden ze ons over hun ultieme ambitie: alle menselijke kennis vanaf de geboorte in menselijke hersenen opslaan. “Dat is toch het doel van het onderwijssysteem?”, zei Jeremy Nixon, de oprichter van AGI House, een woongemeenschap voor AI-medewerkers in San Francisco.
Maar waarom zouden we dat allemaal niet overslaan en gewoon een chip in onze hersenen laten implanteren, zodat we vanaf onze geboorte alles tegelijk kunnen weten? Stel je voor, we spreken elke taal op aarde, we kennen de hele menselijke geschiedenis, alle wetenschap. Oké, we ontdekken misschien niets nieuws meer, maar onze toekomst is grenzeloos. “Je houdt je telefoon vast en het is alsof je prefrontale cortex beter functioneert. Hij vertelt je de weg, hoe je moet plannen. Hij geeft je antwoorden. Hij verbetert je geheugen. Ik denk dat dit de komende 50 jaar in ons zal doordringen, dat het een deel van ons zal worden,” vertelde Kyle Morris, een ander lid van het AGI House, ons.
Het addertje onder het gras: niet iedereen zal zich dit supersnelle brein kunnen veroorloven – en die verbeteringen zullen alleen beschikbaar zijn voor degenen die ervoor betalen. Dus, vanuit het perspectief van techleiders, zou er op een dag een onderklasse kunnen ontstaan van mensen die zich deze hersenverbeteringen niet kunnen veroorloven – of niet willen laten installeren? En zullen degenen met verbeterde hersenen dan degenen zonder onderdrukken? Net zoals het nu steeds moeilijker wordt om je weg te vinden in de wereld zonder smartphone, wordt het in de toekomst misschien nog moeilijker zonder een chip in je hersenen – zul je dan nog kunnen reizen, je vrij kunnen bewegen en simpele boodschappen kunnen doen? Vorige week zei Mark Zuckerberg dat mensen zonder slimme brillen zoals het model van Meta, die hen direct en constant toegang geven tot een AI-assistent, een cognitief nadeel zullen hebben.
Klimaatverandering zal worden opgelost door technologie*
Evangelisten: Larry Page, Elon Musk, Bill Gates
Tijdens ons werk in Silicon Valley stuitten we op een idee dat klimaatverandering, hoewel problematisch, niet iets is om je al te veel zorgen over te maken, omdat het, net als al het andere, op een dag wel opgelost zal worden door een of andere technologische ingreep. Misschien gaan we de atmosfeer wel geo-engineeren om “zonnebrandcrème voor de aarde” te creëren (zoals een duo tech-evangelisten, die zich tot guerrilla-geo-ingenieurs hebben ontpopt, het noemden); misschien lukt het ons eindelijk om kernfusie te realiseren (een favoriete voorspelling in Silicon Valley-kringen), of misschien vinden we wel een manier om onze oceanen koolstof te laten vastleggen. In november opperde Elon Musk dat “een grote, op zonne-energie werkende AI-satellietconstellatie de opwarming van de aarde zou kunnen voorkomen door kleine aanpassingen te maken in de hoeveelheid zonne-energie die de aarde bereikt.” Hoewel datacenters voor kunstmatige intelligentie enorme hoeveelheden water verbruiken en koolstof in de atmosfeer uitstoten (Googles nieuwste datacenter in het Verenigd Koninkrijk zal volgens de planningsdocumenten 570.000 ton CO2 per jaar uitstoten ), vertellen de techleiders ons: we zullen de antwoorden vroeg of laat wel vinden. Of AI doet het voor ons.
Het addertje onder het gras: geo-engineering, hoewel een geliefde luchtkasteel voor techliefhebbers, kan onvoorspelbare en wereldschokkende gevolgen hebben. Klimaatdeskundigen zeggen dat dergelijke processen de aarde in nog grotere chaos kunnen storten door de wereld ongelijkmatig af te koelen en onze klimaatsystemen te ontregelen. En als we eenmaal beginnen met zonne-geo-engineering, kunnen we niet meer stoppen – we zullen chemicaliën in de atmosfeer moeten blijven spuiten om de zon af te koelen, anders dreigt een snelle en catastrofale opwarming. Wie zou er überhaupt de leiding hebben over de geo-engineering van de planeet; en wie zou beslissen of het wel veilig genoeg is?
