indignatieai-redactie 
Om een gelijk speelveld te creëren tussen AI-magnaten en de rest van ons, hebben we politieke actie nodig.
Een van de vele actuele controverses rond kunstmatige intelligentie draait om ‘afstemming’: een eufemisme voor ‘proberen AI te bouwen die ons niet opzettelijk zal doden’. Dat is belangrijk, maar het overschaduwt een meer dringende zorg: de mismatch niet tussen AI en mensen, maar tussen mensen onderling. Dat wil zeggen, de mismatch in belangen tussen de mensen die AI bezitten en de rest van ons.
Zelfs als Sam Altman, de CEO van OpenAI, een manier zou kunnen vinden om kunstmatige intelligentie tot zijn volgzame dienaar te maken, zouden zijn doelen fundamenteel en onverenigbaar blijven met die van de mensheid.
De beleidsconclusie op dit moment is voor beide soorten mismatch dezelfde: we moeten onmiddellijk een einde maken aan alle pogingen om de AI-grens verder te verleggen. De beleidsconclusie voor volgende week, die door de focus op apocalyptische rampen wordt verhuld (en wellicht bedoeld is om te verhullen), is dat we ijzersterke regelgeving nodig hebben om ervoor te zorgen dat kunstmatige intelligentie de belangen van de samenleving dient en niet slechts die van zijn tech-meesters.
Slechts een handjevol mannen domineert momenteel de AI (het zijn allemaal mannen), en een aantal van de machtigste lijken wel schurken uit James Bond-films. Elon Musk, eigenaar van het AI-model Grok, heeft verklaard dat zijn doel is dat de mensheid (of het kleine deel ervan dat hij wil behouden) de aarde verlaat voor Mars; hij is tevens de rijkste persoon op onze huidige planeet.
Peter Thiel, medeoprichter van het defensiebewakingsbedrijf Palantir , is op bizarre wijze vastbesloten om het einde der tijden te versnellen. Toen hem in een interview werd gevraagd of hij überhaupt wilde dat de mensheid zou overleven, aarzelde hij zeventien seconden voordat hij ook maar in de buurt kwam van een “ja”. We zijn misschien wel veiliger in de handen van SkyNet .
De huidige “goede” techbaas is Dario Amodei, CEO van Anthropic. Anthropic weigerde het Pentagon toestemming te geven om hun model, Claude, te gebruiken voor universele surveillance en autonome robotische slachting. Misschien is Amodei inderdaad minder gevaarlijk dan zijn rivalen. Toch is het nog maar net geleden dat Altman van OpenAI zelf werd geprezen als de meest ethische man in de industrie.
Amazon-oprichter en -voorzitter Jeff Bezos deelt de al te bekende obsessie van techbazen om de aarde te verlaten en heeft nu zijn transformatie van (in termen van professioneel worstelen) held naar schurk voltooid. Het aardigste wat je ooit over Mark Zuckerberg, CEO van Meta, kunt zeggen, is dat hij geen Elon Musk is. En Google, dat zijn nuttige zoekmachine vernietigde om het irritante AI-model Gemini te creëren, heeft zijn oorspronkelijke slogan “Don’t Be Evil” al lang geleden laten varen.
De kloof tussen de techmagnaten en de rest van ons is onontkoombaar. Sterker nog, het is een voorbeeld van de fundamentele scheefgroei die ten grondslag ligt aan onze economie: de belangen van bedrijven en oligarchen staan haaks op de belangen van de mensen van wie zij hun rijkdom vergaren. Voor zover AI ooit getemd kan worden, zal het een instrument blijven van degenen die de rijkdom en macht hebben om het te temmen – en dat zijn wij niet.
Als AI eindelijk winstgevend wordt na de ontwikkeling van vele biljoenen dollars, waar komt dat geld dan vandaan? Niet van individuen die $20 per maand neertellen voor Claude Pro. Het komt van bedrijven – en die kopen het niet om hun klanten beter van dienst te zijn. Ze kopen het om hun werknemers te ontslaan.
De vervangers zullen 70 procent van de taken die voorheen door mensen werden uitgevoerd, net zo goed doen, voor 10 procent van de kosten. Dat zal verschrikkelijk zijn voor de werknemers van die bedrijven, verschrikkelijk voor hun klanten en verschrikkelijk voor de maatschappij – maar een goudmijn voor hun aandeelhouders.
AI zal bepaalde voordelen opleveren voor degenen onder ons die geen oligarchen zijn, en heeft dat (soms) al gedaan. Hoewel beloofde geneesmiddelen tegen kanker nog lang niet in zicht zijn, heeft AI de radiologie enorm verbeterd . Er is een dringende behoefte aan iemand, iets, dat de gezondheidszorg, een van de duurste en meest disfunctionele onderdelen van onze economie, revolutioneert.
Als AI dit zou doen, zou het ons leven allemaal beter kunnen maken – maar zal dat ook gebeuren? Alleen als de belangen van degenen die profiteren van AI overeenkomen met de belangen van degenen die de rekeningen betalen. En dat is niet het geval.
UnitedHealth Group, de grootste zorgverzekeraar van het land, is al begonnen met het gebruik van AI om efficiënter dekking te weigeren aan haar klanten. Volgens een lopende rechtszaak is 90 procent van de AI-afwijzingen onjuist – en het bedrijf weet dat. Vrijwel elke zorgverzekeraar vervangt al, of zal binnenkort , menselijke artsen en verpleegkundigen door AI-chatbots.
Dit zou niemand moeten verbazen: zorgverzekeraars hebben consulten van 15 minuten bij de dokter al tot de standaard gemaakt – als je verzekeraar je al toestaat een arts te zien. Veel vaker worden patiënten doorverwezen naar een videogesprek met een doktersassistent.
De economische principes zijn simpel en meedogenloos: hoe minder tijd je met een arts doorbrengt, hoe meer geld het bedrijf bespaart. Hoe minder claims je verzekeraar indient, hoe hoger de winst. Winstgevende bedrijven leveren een steeds groter deel van de gezondheidszorg en hun managers hebben een fiduciaire plicht om het rendement voor de aandeelhouders te maximaliseren.
De relatie tussen de leidinggevenden van een arts en haar patiënten is onvermijdelijk scheefgetrokken. En het zijn die leidinggevenden die bepalen hoe AI zal worden gebruikt – in de gezondheidszorg en in elke andere sector van onze samenleving.
We kunnen ons gemakkelijk een toekomst voorstellen waarin AI perfect aansluit bij de belangen van haar meesters, en volkomen haaks staat op ons. Elk Fortune 500-bedrijf zal slechts bestaan uit een dozijn managers, waarbij AI al het kantoorwerk doet en robots al het handwerk.
Alle “content” zal AI-rommel zijn: kranten zullen worden geschreven door chatbots, onder toezicht van een menselijke redacteur die op de knop “publiceren” drukt. Degenen onder ons die geen manager zijn bij OpenAI zullen leven van een uitkering; sommigen van ons zullen klusjes doen als beveiliger in een datacentrum.
De markt kan deze kloof tussen de eigenaren van AI en de rest van ons nooit overbruggen. De enige manier om dit op te lossen is via politieke actie. Zolang Amerikanen nog enige invloed hebben op hoe ons land wordt bestuurd, moeten we die invloed gebruiken. We kunnen, als we dat willen, hun industrie reguleren – net zoals we elke andere gevaarlijke maar noodzakelijke industrie reguleren, van kernenergie tot de financiële wereld en de chemische industrie.
Welke regelgeving moeten we invoeren om ervoor te zorgen dat AI in lijn is met onze belangen? Net als bij regelgeving voor andere sectoren, moet dit worden uitgewerkt door experts die voor de burgers werken, en niet vrijwillig worden overgenomen door de bedrijven zelf: we vertrouwen er immers ook niet op dat de CEO van een bedrijf dat fluorwaterstofzuur produceert, zelf beslist waar en hoe hij zijn giftige afval afvoert.
Een eenvoudige eerste stap zou zijn om onmiddellijk een einde te maken aan wat de industrie “recursieve zelfverbetering” noemt, oftewel “AI-bedrijven die hun eigen programma’s steeds krachtiger laten worden”. We zijn al lang voorbij het punt waarop we AI gemakkelijk kunnen controleren – waarom zouden we in vredesnaam nog verder gas geven?
Zou een stopzetting China niet inhalen? Zeer onwaarschijnlijk: de Chinese Communistische Partij is sinds de Culturele Revolutie niet tolerant geweest ten opzichte van sociale en politieke chaos. Xi Jinping zou wellicht overgehaald kunnen worden om mee te doen aan een wereldwijde pauze in grensverleggend onderzoek – als hij erop zou vertrouwen dat Amerika die zou handhaven.
En zou Amerika zo’n pauze kunnen afdwingen? Ja, als we dat zouden willen. AI is afhankelijk van echte dingen in de fysieke wereld, met name halfgeleiders (die kunnen worden onderschept) en datacenters (die kunnen worden stilgelegd). Het zou buitengewoon moeilijk zijn voor AI-bedrijven om te verhuizen. En als een techmagnaat zou besluiten om zich als een echte James Bond-schurk te gedragen en een basis in het buitenland te vestigen om wereldheerschappij na te streven, zou de oplossing niet één enkele 007 zijn, maar een squadron F-35’s.
Klinkt dit extreem? AI-bedrijven erkennen de existentiële dreiging die hun producten vormen, waarbij topdeskundigen het risico op uitroeiing van de mensheid binnen een decennium op meer dan 10 procent schatten. Met zulke hoge belangen zou nietsdoen de grootste bedreiging zijn. Het is veel beter om de strijd nu aan te gaan, zolang er nog mensen in een F-35-cockpit zitten.
