Het doemdenken van tech-CEO’s leidt de aandacht af van de daadwerkelijke, bestaande schade die AI aanricht.

De tegenstelling tussen een AI-apocalyps en de verlossing van kunstmatige intelligentie vraagt ​​ons om datacenters en AI-oorlogsmachines te negeren, terwijl tech-managers ondertussen schatrijk worden.

De afgelopen week hebben een groot aantal topmanagers uit de techsector – waaronder Sam Altman van OpenAI, Dario Amodei van Anthropic en Elon Musk van SpaceX – zich aangesloten bij de vele doemdenkers uit Silicon Valley die pleiten voor een vertraging van de ontwikkeling van kunstmatige intelligentie.

De directieleden vreesden, zo zeiden ze, dat de tools te snel te krachtig zouden worden en een existentieel risico voor de mensheid zouden vormen.

Waarom zouden drie multimiljardaire CEO’s van technologiebedrijven het erover eens zijn dat de technologieën die hun bedrijven ontwikkelen wellicht te gevaarlijk zijn?

Denken de machthebbers van Silicon Valley werkelijk dat baanbrekende kunstmatige intelligentie-modellen “alle mensen zullen uitroeien”, zoals een senior medewerker van Anthropic vorige week waarschuwde ? Is dit gewoon weer een voorbeeld van hype om meer investeringen aan te trekken ?

Praten over existentiële risico’s is een wel erg gemakkelijke manier om de reeds bekende schadelijke gevolgen van kunstmatige intelligentie te ontwijken.

De begunstigden van de AI-goudkoorts en de begunstigden van investeringen in AI-veiligheid zijn uiteindelijk waarschijnlijk dezelfde mensen, zelfs als AI-aandelen de afgelopen dagen zijn gedaald te midden van de nieuwste doemcyclus.

We zouden veel tijd kunnen verspillen aan speculaties over de apocalyptische of cynische wereldbeelden van techmiljardairs. Maar ongeacht wat deze CEO’s en hun werknemers werkelijk geloven, één ding is duidelijk: praten over existentiële risico’s is een wel erg gemakkelijke manier om de reeds bekende schade die wordt veroorzaakt door AI-technologieën onder leiding van fascistische miljardairs zoals Musk en Palantir -CEO Alex Karp, niet aan te pakken.

Het is verdacht dat leiders uit Silicon Valley opnieuw met millennialistische verhalen komen over existentiële risico’s die ons bevattingsvermogen te boven gaan. De waarschuwingen van de CEO’s kwamen immers precies op het moment dat er een breed politiek draagvlak ontstaat tegen de daadwerkelijke schadelijke gevolgen van kunstmatige intelligentie en de bijbehorende infrastructuur. Denk bijvoorbeeld aan het massale verzet tegen datacenters en het verbod op kunstmatige intelligentie in het onderwijs .

Het gepraat over existentiële risico’s in Silicon Valley is niet nieuw . In 2023 ondertekenden honderden technologieonderzoekers, CEO’s van de grote AI-bedrijven, investeerders en academici een open brief over AI-risico’s van slechts één zin: “Het beperken van het risico op uitsterven door AI zou een wereldwijde prioriteit moeten zijn, naast andere maatschappelijke risico’s zoals pandemieën en een nucleaire oorlog.”

De schamele internationale toezeggingen om toekomstige pandemieën en kernoorlogen te voorkomen, vormen bepaald geen geruststellende basis, maar de strekking van de open brief paste in een inmiddels typisch AI-verhaal, doorspekt met theologische ondertonen: er zou een drempel naderen die zou kunnen leiden tot de totale vernietiging van al het leven op aarde – of tot onze redding.

Volgens de kopstukken van het technokapitalisme is die drempel het begin van AGI: ” artificiële algemene intelligentie “, oftewel systemen met een intelligentie die gelijkwaardig of superieur is aan die van de mens. Vanaf dat moment, zo luidt het verhaal, zouden er machtige, superintelligente machines ontstaan ​​door middel van recursieve cycli van zelfverbetering door kunstmatige intelligentie.

Verlossing of vernietiging

De verwoesting die deze AI-systemen aanrichten zou totaal kunnen zijn, zo wordt ons verteld, als ze niet “afgestemd” zijn op de menselijke belangen. Volgens een bijzonder gestoord gedachte-experiment zouden onze toekomstige robotheersers alles op aarde in paperclips kunnen veranderen .

Een alternatief utopisch verhaal is dat de magie van kunstmatige intelligentie– en die wordt niet concreter beschreven dan met gebaren naar magie – elk wereldprobleem en meer zal oplossen, van klimaatrampen tot armoede, ziekte en zelfs sterfelijkheid.

Denk bijvoorbeeld aan hoe techmiljardairs Bill Gates en Eric Schmidt de kwestie van het nu al verwoestende, gigantische energie- en waterverbruik van AI-processen hebben weggewuifd. De New York Times meldde dat Schmidt gelooft dat AI “te veel potentie heeft om zich door zorgen over klimaatverandering te laten tegenhouden.”

Geavanceerde kunstmatige intelligentie zal zulke groei, zulke welvaart, zulke milieuvriendelijke technologie en zulke heilige verlossing brengen, zo zeggen ze, dat alleen een bekrompen technofoob de duizelingwekkende vooruitgang van de lerende machines zou willen tegenhouden.

Hoe gaat super-kunstmatige intelligentie dit doen? Dat kan ik u niet vertellen. En, cruciaal is dat de miljardairs en technologen die deze zogenaamde magie – of terreur – naar de wereld brengen, dat ook niet kunnen. Evenmin kunnen degenen die ongekende, economie-hervormende hoeveelheden kapitaal en energie in datacenters en AI-onderzoek steken, de weg naar verlossing van kunstmatige intelligentie uitleggen.

Het komt er eigenlijk op neer dat wij, degenen die onderaan de voedselketen staan ​​– de consumenten, of misschien wel de hele mensheid – de krachten die hier spelen onmogelijk kunnen begrijpen.

We moeten sceptisch staan ​​tegenover deze propagandistische verhalen. Dit wil niet zeggen dat de AI-industrie de wereld niet verandert. AI kan al buitengewone dingen doen, vaak ver buiten het menselijk vermogen; deze technologieën hebben al een diepgaande invloed gehad op de arbeidsmarkt, de wereldwijde infrastructuur, de toepassing van staatsgeweld en de enorme kapitaal- en energiestromen.

AI is immers niet één ding: het is een verzameling methoden gebaseerd op wat bekend staat als machine learning, wat in feite algoritmen zijn die statistiek gebruiken om patronen te vinden in enorme hoeveelheden data, soms op buitengewoon complexe manieren.

Er zijn talloze AI-producten en -diensten , van tekst- en beeldgenererende content tot aanbevelingssystemen zoals die van Spotify en Netflix; fraudedetectiesystemen; en navigatiesystemen zoals Google Maps.

Ja, we zwemmen in de AI-rommel, verprutste zoekmachines, gestolen content, deepfakes, gênante fouten en hallucinaties. Maar er zijn ook wetenschappers die machine learning gebruiken om de detectie en behandeling van de ziekte van Alzheimer te revolutioneren .

Ondertussen worden AI-systemen gebruikt om dodenlijsten te genereren – en te rechtvaardigen – bij een genocide, of om wraakporno te produceren, of om databases voor voorspellend politieoptreden te vullen op basis van racistische vooroordelen.

AI-sprookjes

Het probleem met kunstmatige intelligentie-sprookjes, die de ontwikkeling van ‘ algemene kunstmatige intelligentie ‘ als een teleologisch eindpunt beschouwen, is dat de reeks huidige en potentiële toepassingen van machinaal leren worden samengevoegd tot één onstuitbare kracht.

In plaats van een serieuze confrontatie met de bestaande schadelijke gevolgen en mogelijkheden van technologische ontwikkeling, geven de spreekbuizen van het technokapitalisme de voorkeur aan een verhaal over een onvermijdelijke Dag des Oordeels: De grote denkende machines komen eraan en zullen ons vernietigen of redden.

Lastige vragen over de werkelijke mogelijkheden en potentie van machinaal leren worden terzijde geschoven. Dat geldt ook voor moeilijke discussies over de duistere geschiedenis van ‘intelligentie’ als een meetbare eigenschap en een rommelig, omstreden concept.

Echte onzekerheden en onbekende factoren over hoe geavanceerde machine learning-technologieën het beste ontwikkeld en ingezet kunnen worden, worden overbodig gemaakt – overwegingen die voorbehouden zijn aan de grote namen van Silicon Valley.

Zoals de cognitief wetenschapper Hagen Blix en machine learning-onderzoeker Ingeborg Glimmer schreven in hun boek “Why We Fear AI” uit 2025: “Als het op het spel staat om het voortbestaan ​​van de mensheid, dan worden zorgen over de effecten van de bestaande kunstmatige intelligentietechnologie – van overmatig energieverbruik tot het ondermijnen van het levensonderhoud van kunstenaars en havenarbeiders, het introduceren van cyberbeveiligingslekken, het in stand houden en verergeren van discriminatie, desinformatie en deepfakes, het intensiveren van massasurveillance, enzovoort – gemakkelijk terzijde geschoven.”