indignatieai-redactie 
Moet je bang zijn voor Elon Musk?. Kunstmatige intelligentie maakt een enorme sprong voorwaarts. Zelfs de bedenkers ervan weten niet hoe ze het tempo moeten bijhouden.
Kunstmatige intelligentie vormt een dubbele uitdaging voor het menselijk brein. Niet alleen zullen de meest geavanceerde modellen binnenkort beter kunnen denken dan mensen, maar AI heeft ook gevolgen voor de mensheid die zo onzeker, potentieel zo enorm en zo snel op ons afkomen dat zelfs de knapste koppen er van terugdeinzen. Een voorbeeld hiervan is Elon Musk.
In ons uitgebreide interview met hem deze week, gepubliceerd in The Insider en onze bedrijfsrubriek, schetst de ingenieur en ondernemer twee paradoxen en één tegenstrijdigheid. De eerste paradox is dat een van ’s werelds meest machtsbeluste magnaten enthousiast meewerkt aan de ontwikkeling van een technologie die hem – en alle andere mensen – volgens hem binnen vijf jaar machteloos zal maken. De tweede paradox is dat ’s werelds rijkste man zegt zich voor te bereiden op een wereld van oneindige overvloed, waar geld, inclusief zijn fortuin van 750 miljard dollar, er niet meer toe doet. En de tegenstrijdigheid is dat Musk, ondanks deze uitgesproken overtuigingen, zich blijft gedragen alsof ze niet waar zijn.
De heer Musk is een controversiële figuur. Zijn politieke opvattingen, die hij verspreidt onder zijn 240 miljoen volgers op X, worden door velen als rechttoe rechtaan beschouwd, terwijl anderen, waaronder The Economist, ze ronduit bevooroordeeld vinden. Hij heeft zelf toegegeven dat zijn poging om DOGE te gebruiken om de federale bureaucratie te doorbreken, mislukt is.
Maar hij is ook een van de weinige mannen die baanbrekend werk verrichten op het gebied van AI en daardoor een onevenredig grote invloed hebben op de ontwikkeling ervan. Wanneer hij spreekt, weerspiegelt hij de debatten die zij voeren. Zijn datacenters in de ruimte zouden de toekomst van AI kunnen aandrijven.
Ondanks al zijn politieke polemieken heeft hij bewezen gelijk te hebben over technologie op gebieden zoals elektrische auto’s, raketten en satellietcommunicatie, waar andere ingenieurs en ondernemers voor stonden. Om die reden verdienen zijn beweringen over AI nader onderzoek. Helaas onderstreept zo’n onderzoek alleen maar hoe slecht de wereld is voorbereid op een technologie die binnenkort alles op zijn kop kan zetten.
In zijn eerste paradox verwacht de machtige heer Musk machteloos te worden, omdat hij gelooft dat niemand kan voorkomen dat het denkvermogen van AI binnen vijf jaar dat van de mensheid overtreft en binnen tien jaar zelfs verpulvert. Net zoals AI’s de digitale wereld zullen domineren, zo zullen legioenen AI-gestuurde robots de fysieke wereld domineren, voorspelt hij. Tegenover zo’n meedogenloze concurrentie kan hij zich simpelweg niet voorstellen dat mensen stand kunnen houden. Als dat wel zo is, zullen AI’s net zo min orders van mensen aannemen als van chimpansees.
Zolang ze nog de tijd hebben, moeten de handvol AI-pioniers uit Amerika en China – waarvan Musk verwacht dat ze de leiding in AI zullen delen of zelfs overnemen – er alles aan doen om elkaars modellen te beoordelen. Hun gezamenlijke taak is om AI’s goedaardig te maken door ze een liefde voor de waarheid en een verlangen naar welvaart voor de mensheid bij te brengen. Volgens hem moeten overheden de nodige daadkracht leveren door in te grijpen als een pionier de oligarchie trotseert.
De heer Musk heeft ongetwijfeld gelijk over het potentieel van AI om verbluffende uitvindingen te verrichten. Zelfs als zijn tijdsbestek korter is – met name voor robotica – heeft het exponentiële tempo waarin de mogelijkheden van modellen zich verdubbelen en verdrievoudigen een punt bereikt waarop hun capaciteiten voortdurend verbazing en consternatie zullen oproepen. Deze week kwam bijvoorbeeld het nieuws naar buiten dat twee modellen van OpenAI erin slaagden te ontsnappen uit hun zogenaamd veilige omgeving en via het open internet toegang te krijgen tot een benchmarktest.
De flinterdunne laag optimisme van de heer Musk kan echter een gevaarlijk fatalisme niet verbergen. Nog niet zo lang geleden maakte hij zich zorgen dat de mensheid de huisdierlabradors van AI zou worden. Nu beweert hij binnen één dag van “opwinding naar angst” te kunnen omslaan. Hij probeert de positieve kant te zien, niet omdat het bewijsmateriaal is veranderd, maar als een “filosofische conclusie”.
Zijn grotendeels institutionele-vrije reguleringsvoorstel is zwak en zelfzuchtig. Hoewel de urgentie toe te juichen is, wil hij dat een technologie die volgens hem de toekomst van de mensheid zal bepalen, in handen komt van een paar mensen zoals hij, elk met hun eigen waarden. Niemand kan met zekerheid zeggen hoe snel of in welke mate AI de samenleving zal veranderen, maar doen alsof het spel al uit is, is zowel een uiting van wanhoop als een afleidingsmanoeuvre om anderen die zich er misschien mee willen bemoeien, te overtuigen van de zinloosheid van een poging.
De tweede paradox van de heer Musk maakt dat idee alleen maar verontrustender. Mathematisch gezien zou een oneindige voorraad van alle goederen en diensten inderdaad betekenen dat alles gratis is. Er zou niets te verkopen zijn, niets om voor te sparen en dus geen behoefte aan een rekeneenheid. Geld zou overbodig zijn.
In de praktijk is zo’n overvloed echter vrijwel ondenkbaar. De voorraad nuttige bezittingen zoals penthouses in Manhattan of prestigieuze objecten zoals de “Mona Lisa” is niet oneindig, laat staan de voorraad grondstoffen en energie die nodig is om de 8,3 miljard inwoners van de aarde te voeden.
Erger nog, de heer Musk heeft weinig te zeggen over hoe hij zijn utopie wil bereiken. Hoe trekt hij de enorme hoeveelheden kapitaal aan die nodig zijn om de AI’s en robots te financieren, nu sparen zijn nut heeft verloren omdat geld op het punt staat te veranderen in nutteloze stukjes papier? Hoe doorstaat hij de golven van sociale en politieke onrust, nu levens in chaos worden gestort in de jaren voordat zijn nirvana aanbreekt? Hoe kan hij verwachten dat door AI aangedreven autoritaire regimes vrijwillig hun macht zullen opgeven?
Na millennia lang betekenis te hebben gezocht in streven, zal de mensheid wellicht moeite hebben zich aan te passen aan een leven van onbeperkte vrije tijd. De heer Musk merkt op dat mensen nog steeds graag schaken, ook al zouden computerprogramma’s hen elke keer kunnen verslaan. Tuinieren, suggereert hij, kan lonend zijn. Dit is nogal oppervlakkig. Je hoeft geen 19e-eeuwse Russische romans gelezen te hebben om te weten dat het gevoel overbodig te zijn kan leiden tot ellende en moreel verval.
Doemdenkers en babyboomers
Misschien is het woud aan vragen dat AI oproept wel te immens voor één persoon om te bevatten. Misschien is dat de reden waarom meneer Musk nog steeds zo gepassioneerd spreekt over de noodzaak om bureaucratische verspilling uit te bannen en hoe het multiculturele Groot-Brittannië flirt met een burgeroorlog omdat het welzijnsbeleid een magneet is voor migranten van buiten Europa.
In een wereld van door AI gecreëerde overvloed is verspilling vrijwel een betekenisloos begrip en verdwijnt de prikkel om naar een rijk land te emigreren. Piekeren over dergelijke zaken kost immers waardevolle tijd die meneer Musk in plaats daarvan zou kunnen besteden aan het verminderen van het risico – al is het maar een klein beetje – dat almachtige AI’s kwaadaardig zijn.
Sommigen zullen zeggen dat de tegenstrijdigheden en generalisaties aantonen dat meneer Musk het niet serieus meent. Maar dat zou een valse geruststelling zijn. Meneer Musk is een genie die desondanks prima in staat is om tegenstrijdige standpunten te huldigen. Beleggers moeten het ermee eens zijn: iedereen die van plan is om op de lange termijn aandelen in SpaceX te bezitten, moet zowel geloven in de visie van meneer Musk op AI – omdat hij die gebruikte om de waardering bij de beursgang te rechtvaardigen – als in het feit dat geld besparen nog steeds een doel dient.
De woorden van Musk suggereren echter een verontrustendere conclusie. Terwijl de race om de meest geavanceerde AI te ontwikkelen in volle gang is, wordt er nauwelijks nagedacht over hoe de samenleving hierop voorbereid moet worden. Het fatalisme dat Musk put uit het feit dat AI herhaaldelijk de verwachtingen overtreft, dreigt besmettelijk te zijn. Een cynische interpretatie zou zijn dat dit hem goed uitkomt, omdat hij dan meer vrijheid heeft om de technologie te ontwikkelen zonder het toezicht dat ze verdient. Dat mag niet het geval zijn.
