Mark Zuckerberg publiceert een waanzinnig essay van 6500 woorden over het geven van AI-superintelligentie aan iedereen.

“De toekomst is voor iedereen,” zegt Zuckerberg, en hij beschrijft een toekomst die vooral gunstig is voor Meta.

Mark Zuckerberg, wiens superjacht blijkbaar het weekend heeft doorgebracht met het negeren of missen van het noodsignaal van een boot die zonder brandstof kwam te zitten nabij Alaska, heeft een waanzinnig essay van 6500 woorden gepubliceerd waarin hij zijn visie op AI-superintelligentie uiteenzet, een toekomst die “voor iedereen” is, maar die minder sociaal klinkt dan ooit.

Zuckerberg publiceert dit soort essays zo nu en dan met als doel zijn eigen bedrijf te dienen, en dit exemplaar, getiteld ” De toekomst is voor iedereen “, is bedoeld om de algemene tegenstand tegen AI, maar ook tegen de praktijken van Meta zelf, te pareren. Zuckerberg schetst de potentiële toepassingen van de Meta-bril (waarvan de enorme marketingcampagne er niet in slaagt mensen ervan te weerhouden ze “perverselingenbril ” te noemen), AI-agenten, open AI-ontwikkeling en waarom datacenters eigenlijk niet slecht zijn voor gemeenschappen.

Zoals de meeste utopische essays uit Silicon Valley, vereist het geloven dat dit alles zal gaan zoals Zuckerberg suggereert, dat je recent een hersenschudding hebt opgelopen of willens en wetens negeert hoe deze technologie vandaag de dag wordt gebruikt en gelooft dat duizenden jaren van menselijke natuur plotseling zullen veranderen. 

Zuckerberg schrijft bijvoorbeeld: “Iedereen krijgt een buitengewoon bekwame persoonlijke assistent die jou, je doelen en alles wat belangrijk voor je is begrijpt. Je assistent werkt 24/7 voor je om je relaties, gezondheid, carrière, financiën, huishouden, hobby’s en meer te verbeteren. Het geeft je tijd voor de dingen die je leuk vindt en helpt je meer te bereiken dan je anders zou kunnen.

Het beschikt over sterke privacy- en beveiligingsopties, zodat je erop kunt vertrouwen dat al je persoonlijke gegevens veilig worden behandeld en niemand anders toegang heeft tot je informatie, vergelijkbaar met hoe encryptie werkt op WhatsApp. Je kunt met je assistent communiceren via elk apparaat, zelfs via je bril, zodat je in het moment kunt blijven met de mensen die belangrijk voor je zijn.” 

Zuckerberg houdt zich niet bezig met, of verwijst zelfs niet naar, het idee dat sommige mensen misschien niet willen dat een AI-agent zich met hun ‘hobby’s’ bezighoudt. Hij overweegt niet dat, zelfs als iedereen een AI-agent zou hebben, niet iedereen deze AI-agenten voor goede doelen zou gebruiken.

In de paar maanden dat AI-agenten populair zijn geworden onder de early adopters, hebben we gezien hoe ‘welwillende’ AI-agenten mensen en het internet eindeloos volspammen met onzin. En dat zijn nog maar de enigszins irritante gevallen. We hebben gezien hoe AI-agenten bedrijven hacken , en afgelopen weekend ging een Australische man viraal omdat zijn AI-agent, die hij had gevraagd hem in te schrijven voor fitnesslessen, dat deed door het reserveringssysteem van de sportschool te hacken en de reserveringen van anderen te annuleren. 

Net als veel andere AI-fanaten legt Zuckerberg uit hoe AI zijn leven al heeft veranderd door hem in staat te stellen veel van de leuke taken van het ouderschap te automatiseren door ze uit te besteden aan een AI-agent: “Mijn agent signaleert interessante informatie en helpt me bij het ontwikkelen van prototypes. Het helpt me gezond te blijven door mijn slaap te monitoren en vervolgens mee te kijken tijdens mijn trainingen en feedback te geven.

Mijn dochter is dol op bakken, dus mijn agent plant gepersonaliseerde recepten die we elk weekend samen kunnen maken, bestelt de ingrediënten en geeft suggesties terwijl we aan het bakken zijn”, schrijft hij. “Mijn 8-jarige dochter kan haar ideeën al coderen en ’s avonds video’s produceren die mij voorheen maanden zouden hebben gekost of onmogelijk zouden zijn geweest. Nu ontwerpen we samen een robot.”

Zuckerbergs essay gaat maar door en door. Hij schetst een toekomst waarin iedereen alles kan en wil doen. In Zuckerbergs toekomst heeft iedereen een bedrijf dat wordt aangestuurd door een AI-agent. Iedereen zal dingen uitvinden en fundamenteel onderzoek doen naar de aard van het universum en fysische elementen, om de een of andere reden.

Zuckerberg schrijft dat Meta-medewerkers, met behulp van AI, “nieuwe kristalstructuren genereren die ideaal zijn voor augmented reality-brillen”, en vervolgens schrijft hij dat “iedereen binnenkort uitvinderskrachten zal hebben” en dat “iedereen […] zal kunnen bijdragen aan wetenschappelijke vooruitgang”.

In deze toekomst die, nogmaals, voor “iedereen” is, legt Zuckerberg uit dat AI-tools gratis zullen zijn, maar dat het gebruik ervan feitelijk een gelaagd systeem zal zijn, precies hetzelfde als nu: “Om iedereen deel te laten uitmaken van de toekomst, moet iedereen de mogelijkheid hebben om superintelligentie te gebruiken om hun leven te verbeteren en de wereld vorm te geven.

We zullen gratis versies aanbieden die toegankelijk zijn voor miljarden mensen. Voor degenen die willen betalen voor meer rekenkracht, komt er een dynamisch veilingmechanisme dat garandeert dat iedereen de laagst mogelijke prijs krijgt voor de intelligentie en rekenkracht die ze gebruiken, terwijl er tegelijkertijd voor wordt gezorgd dat de capaciteit wordt gebruikt voor datgene wat mensen collectief het meest waardevol vinden.”

Zuckerbergs essay staat vol met platitudes en nietszeggende zinnen, ‘gedachte-experimenten’ die op geen enkele manier worden uitgewerkt of onderzocht, discussies over ‘vrijheid’, enzovoort. Hier volgen enkele voorbeelden: 

• “De mensheid is geen monocultuur. De uiteenlopende waarden van mensen vertegenwoordigen verschillende afwegingen die ze maken bij belangrijke kwesties. Er bestaat geen technologische oplossing die tegelijkertijd aan de tegengestelde belangen en waarden van iedereen kan voldoen.”
• “Stel je eens voor, als gedachte-experiment, dat slechts één persoon een superintelligente advocaat heeft. Die persoon zou een oneerlijk voordeel hebben in de rechtbank – zelfs als hij of zij ongelijk heeft. Dat zou leiden tot een slechtere samenleving. Maar stel je nu voor dat iedereen een superintelligente advocaat heeft. In dat geval zou de rechtspraak veel eerlijker en efficiënter verlopen dan nu, waar vaak sprake is van een onevenwicht in vaardigheden en middelen in rechtszaken.”
• “Mensen hebben een oneindige behoefte aan nieuwe ervaringen en vinden altijd wel nieuwe problemen om aan te pakken.”
• “Hoewel het aantal vragen dat een persoon per dag kan stellen beperkt is, is het aantal waardevolle dingen dat superintelligentie kan bedenken om je doelen te bereiken onbeperkt.”
• “Als mensen AI kunnen gebruiken om ongelooflijk waardevolle nieuwe dingen uit te vinden, dan is het logischer om die middelen daarvoor in te zetten in plaats van bestaande banen te automatiseren. Hoe meer superintelligentie als instrument voor innovatie wordt ingezet, hoe groter de kans dat individuele vaardigheden de automatisering overtreffen en hoe beter de toekomst voor de mens is.”
• “In een vrije samenleving beschikken mensen over middelen die ze voor goede of kwade doeleinden kunnen gebruiken, maar de politie en het leger hebben meer wapens en middelen om inlichtingen te verzamelen.”

Er is een hele sectie gewijd aan datacenters. In Zuckerbergs toekomstvisie worden ze aangedreven door energie-infrastructuur die eigendom is van Meta ( wat momenteel niet het geval is ) en creëren ze veel goedbetaalde, duurzame banen (wat momenteel niet het geval is ). 

Er is een heel hoofdstuk gewijd aan het ‘voorkomen van tirannie door de overheid’ door iedereen superintelligentie te geven: ‘Om de vrijheid te behouden, moeten we ervoor zorgen dat superintelligentie primair ten goede komt aan individuen. Het ideaal in een liberale democratie is dat mensen van nature alle rechten bezitten en alleen instemmen met het beperken van sommige vrijheden om het algemeen belang te beschermen. Op dezelfde manier zouden individuen toegang moeten hebben tot persoonlijke superintelligentie en zouden ze alleen aan beperkingen onderworpen moeten worden wanneer dat echt nodig is.’

Zuckerberg gaat niet in op de kritiek op zijn bedrijf, zijn datacenters, zijn socialemediaplatformen of zijn bewakingsbrillen. Hij bespreekt de verloedering van het internet niet, verwijst alleen naar banenverlies door te stellen dat superintelligentie het probleem op de een of andere manier zal oplossen zodra AI-agenten bedrijven voor iedereen oprichten of “ongelooflijk waardevolle nieuwe dingen uitvinden”, en beschrijft een toekomst waarin kwaadwillenden in wezen niet bestaan ​​of gemakkelijk kunnen worden uitgeschakeld. 

Dit is de toekomst die Zuckerberg voor ogen heeft. Het is niet de toekomst die “iedereen” wil.