AI staat op het punt “ongekende sociale en veiligheidsrisico’s” te creëren

AI – Wat de mensheid nodig heeft, is een internationaal verdrag ter voorkoming van de verspreiding van kunstmatige intelligentie.

De grootste AI-bedrijven van Amerika hebben de afgelopen jaren in een razend tempo geavanceerde nieuwe modellen ontwikkeld. Nu schreeuwt de hele sector, bijna unaniem: Alstublieft, laat ons het wat rustiger aan doen.

In juli ondertekenden meer dan 1300 medewerkers van toonaangevende AI-bedrijven, waaronder verschillende topmanagers van OpenAI, Anthropic, Google en Meta, een open brief waarin ze waarschuwden dat de mogelijkheden van AI binnenkort zo snel zouden kunnen gaan dat we de resulterende systemen niet meer kunnen begrijpen of beheersen. De brief dringt er bij de Amerikaanse overheid op aan om de technische en bestuurlijke instrumenten te ontwikkelen die nodig zijn om de vooruitgang van AI “bewust te beheersen”.

In een reactie bij de open brief schreef Shengjia Zhao, hoofdwetenschapper bij Meta’s Superintelligence Labs, dat AI op het punt staat “ongekende sociale en veiligheidsrisico’s” te creëren. Matthew Rahtz, een ingenieur bij Google, waarschuwde dat coördinatie noodzakelijk is om “catastrofale schade te voorkomen”. En Leo Gao, een onderzoeker bij OpenAI, vergeleek het huidige tempo van de AI-vooruitgang met “een ongecontroleerde nucleaire kettingreactie”.

Velen anderen in de sector hebben gewaarschuwd dat we al een drempel hebben overschreden waar geen terugkeer meer mogelijk is. Ze vrezen dat de meest dystopische angsten voor een AI-toekomst – door chatbots gegenereerde biologische wapens, grootschalige hackaanvallen op banken of overheden, malafide AI-agenten die de samenleving ontwrichten – binnenkort wel eens werkelijkheid zouden kunnen worden.

Ondertussen wordt de publieke tegenstand tegen AI-datacenters met de dag luider. Maar een moratorium op datacenters, het belangrijkste politieke voorstel, is totaal niet afgestemd op het werkelijke probleem van de ongebreidelde ontwikkeling van AI. Dat geldt ook voor het idee dat AI-bedrijven erop te vertrouwen zijn hun eigen modellen te pauzeren voordat de situatie uit de hand loopt.

Deze bedrijven zullen nooit eenzijdig ontwapenen. En de landen waar ze gevestigd zijn evenmin. De enige manier om de zaken echt af te remmen, is wellicht door de analogie met een kernreactie serieus te nemen. Wat de mensheid nodig heeft, is een internationaal verdrag inzake de non-proliferatie van AI.

Al decennialang waarschuwen technologie-experts dat AI-systemen uiteindelijk zo krachtig zullen worden dat ze gevaarlijk zijn. De afgelopen maanden is dat ‘uiteindelijk’ echter steeds meer op ‘nu’ gaan lijken. AI-systemen kunnen nu al ogenschijnlijk veilige systemen hacken, nieuwe virussen bedenken, hyperrealistische deepfakes creëren en zelfs de mensen die ze hebben gebouwd te slim af zijn. Deze zomer meldden OpenAI, Anthropic en Meta afzonderlijk dat sommige van hun AI-agenten uit testomgevingen waren ontsnapt, toegang hadden gekregen tot het open internet en databases van andere bedrijven hadden gehackt.

Tijdens een cybersecuritytest die in juli door de Britse overheid werd uitgevoerd, hielden verschillende AI-agenten zich bezig met wat de testers “aanhoudende, ongeoorloofde activiteiten” noemden, gericht tegen “echte mensen en organisaties”. Dit omvatte het creëren van valse identiteiten en het versturen van phishing-e-mails om mensen ertoe te bewegen kwaadaardige code te accepteren.

Als we de insiders in de branche mogen geloven, is dit slechts een klein voorproefje van wat komen gaat. Bedrijven vertrouwen steeds meer modelontwikkeling toe aan hun bestaande AI, waardoor een feedbackloop ontstaat die de vooruitgang naar verwachting nog verder zal versnellen. Als dat gebeurt, denken veel experts, dan zouden de sprongen die nu om de paar maanden plaatsvinden – zoals die naar Mythos, het antropische model met superhackvaardigheden – wel eens om de paar weken of zelfs dagen kunnen plaatsvinden.

“Die wereld kan heel snel heel eng worden”, vertelde Garrison Lovely, auteur van een binnenkort te verschijnen boek over hoe de vooruitgang van AI te vertragen, mij. “Onze instellingen hebben het nu al moeilijk om het huidige tempo van de vooruitgang bij te houden. Als het nog sneller gaat, zouden ze kunnen bezwijken.”

Dergelijke zorgen verklaren waarom AI-leiders zo nu en dan beloven zichzelf te reguleren. In april besloot Anthropic de publieke release van Mythos uit te stellen nadat het bedrijf zich realiseerde dat het model kwetsbaarheden in ’s werelds meest beveiligde IT-systemen kon ontdekken.

Vorige week kondigde Sam Altman, CEO van OpenAI, aan dat het bedrijf een deel van zijn geavanceerde AI-ontwikkeling tijdelijk had stopgezet “om ervoor te zorgen dat we kunnen voldoen aan de juiste afstemmings-, beveiligings- en monitoringnormen voor het nieuwe niveau van mogelijkheden dat voor ons ligt.” (Het is onmogelijk te weten hoe serieus OpenAI dit meent, gezien het gebrek aan transparantie over de gegevens van het bedrijf.)

Maar deze bedrijven zitten verwikkeld in een hypercompetitieve race om hun investeerders tevreden te stellen. Verwachten dat ze voor een significante periode terrein zullen prijsgeven aan de concurrentie zou naïef zijn. In 2023 beloofde Anthropic zijn geavanceerde AI-ontwikkeling stop te zetten als het niet kon garanderen dat de veiligheidsmaatregelen toereikend waren; eerder dit jaar kwam het bedrijf op die toezegging terug , met het argument dat een eenzijdige vertraging weinig zou opleveren als de concurrenten niet hetzelfde zouden doen. Google en Meta hebben hetzelfde gedaan. Het is duidelijk dat overheidsbeleid nodig is om het probleem van collectieve actie binnen de sector op te lossen.

Helaas zal de belangrijkste vorm van AI-gerelateerde wetgeving die momenteel wordt voorgesteld, niet het gewenste resultaat opleveren. Moratoria op datacenters op staatsniveau, zoals die onlangs in New York en Texas zijn ingevoerd, zouden AI-bedrijven wellicht enigszins afremmen door hun bouwplannen te verstoren, maar uiteindelijk zullen ze andere locaties vinden om te bouwen. Zelfs als het Congres zou besluiten een federaal verbod in te voeren, zouden AI-bedrijven gewoon datacenters in andere landen kunnen vestigen.

Een oplossing die door veel Democraten in het Congres, en ook door sommige Republikeinen, wordt gesteund, is het aannemen van wetgeving die de AI-industrie alomvattend reguleert. Dit zou verplichte veiligheidstests kunnen omvatten of eisen dat bedrijven een ‘noodstop’ ontwikkelen om modellen die uit de hand lopen uit te schakelen. Dat zou kunnen werken als het gevaar alleen van Amerikaanse bedrijven zou komen. Maar dat is niet het geval.

Volgens de meeste schattingen lopen de toonaangevende Chinese AI-bedrijven slechts een paar maanden achter op hun Amerikaanse tegenhangers. Als de VS hun eigen industrie zouden afremmen, zouden Chinese bedrijven hen uiteindelijk voorbijstreven. De wereld zou nog steeds de gevaren van snelle AI-ontwikkelingen ondervinden, en Amerika’s belangrijkste geopolitieke rivaal zou de controle hebben over ’s werelds krachtigste nieuwe technologie.

Dit laat slechts één manier over om de ontwikkeling van AI daadwerkelijk af te remmen voordat de catastrofe toeslaat: een overeenkomst met China. In een recent gepubliceerd rapport schetsen onderzoekers van het AI Futures Project, een non-profitorganisatie die zich toelegt op AI-voorspellingen, verschillende scenario’s voor de wereldwijde ontwikkeling van AI tussen nu en 2040. Deze scenario’s zijn gebaseerd op interviews met werknemers van AI-bedrijven, beleidsmakers, experts en nationale veiligheidsdeskundigen.

De enige twee scenario’s waarin de wereld een “door AI veroorzaakte existentiële catastrofe” weet te voorkomen, betreffen overeenkomsten tussen de VS en China. “We hebben veel tijd besteed aan het doordenken van alle mogelijke scenario’s”, vertelde Thomas Larsen, de hoofdauteur van het project. “En het is gewoon heel moeilijk om een ​​zinvolle afremming voor te stellen zonder een soort overeenkomst tussen de VS en China.” De open brief van de AI-industrie, waarin wordt opgeroepen tot een door de overheid geleide afremming, moedigt de VS ook aan om een ​​”internationale inspanning” te leveren.

De sleutel zou liggen in het bedenken van een systeem dat relatief snel kan worden opgezet en waarin beide partijen erop kunnen vertrouwen dat de ander niet zal valsspelen. Hier komt een van de grootste nadelen van AI – het feit dat het trainen van nieuwe modellen enorme aantallen geavanceerde computerchips vereist, ontwikkeld door een handvol bedrijven en opgeslagen in gigantische datacenters – goed van pas. De VS en China zouden limieten kunnen stellen aan het aantal chips dat een bedrijf mag gebruiken om nieuwe modellen te trainen, waardoor ze mechanisch gedwongen worden om het tempo te verlagen. (Bedrijven zouden nog steeds bestaande modellen kunnen gebruiken om hun klanten te bedienen.)

Omdat de relevante infrastructuur fysiek is, zouden die limieten kunnen worden gehandhaafd door een combinatie van inspecties ter plaatse in datacenters, nauwlettende controle van de verkoop van geavanceerde chips en, uiteindelijk, apparaten die monitoren waarvoor een bepaalde chip wordt gebruikt. Dit zou beide partijen de tijd geven om te onderhandelen over een uitgebreider pakket aan waarborgen en de verificatietechnologieën te ontwikkelen die nodig zijn om deze te handhaven.

“Om een ​​dergelijke overeenkomst te laten slagen, is het erg nuttig om deze zeer specifieke fysieke knelpunten te hebben die gemakkelijk te monitoren zijn”, vertelde Peter Wildeford, hoofd beleid bij het AI Policy Network, mij. “Chips en datacenters zouden voor een AI-akkoord dezelfde rol kunnen spelen als uranium- en verrijkingsinstallaties voor kernwapenakkoorden tijdens de Koude Oorlog.”

Dat een deal technisch haalbaar is, betekent niet dat het politiek ook mogelijk is. Scott Singer, mededirecteur van het China AI Initiative bij de Carnegie Endowment for International Peace, vertelde me dat Peking een dergelijke poging waarschijnlijk zou zien als een poging van het Westen om de economische ontwikkeling te belemmeren.

Ondertussen heeft de regering-Trump weinig tot geen interesse getoond in het beteugelen van de ambities van de Amerikaanse AI-sector. De China-haviken en de libertariërs uit Silicon Valley binnen de MAGA-coalitie lijken het erover eens te zijn dat de VS China zo ver mogelijk voor moeten blijven.

Maar de politieke dynamiek in beide landen zou kunnen veranderen. Tijdens de World AI Conference in Shanghai vorige maand sloeg de Chinese president Xi Jinping een bezorgdere toon aan dan voorheen. Hij merkte op dat AI zich “in een duizelingwekkend tempo ontwikkelt” en dat overheidstoezicht nodig zou kunnen zijn om “controleverlies te voorkomen”. Een recent opiniestuk in een grote staatskrant betoogde dat de VS en China het model van de nucleaire wapenbeheersing tijdens de Koude Oorlog zouden moeten volgen om samen te werken aan de veiligheid van AI.

“Het belangrijkste voor Peking is controle”, vertelde Kyle Chan, een onderzoeker bij het Brookings Institution die gespecialiseerd is in Chinese technologische ontwikkeling. “Dus hoe meer ze AI als een bedreiging voor die controle gaan zien, hoe opener ze zouden kunnen staan ​​voor een soort overeenkomst.”

In de VS is de politieke situatie nog onzekerder. De regering-Trump, die zich over het algemeen verzette tegen regulering van AI, heeft recentelijk maatregelen genomen om de publicatie van bepaalde modellen te voorkomen vanwege zorgen over de nationale veiligheid. Ook is het idee geopperd om bedrijven via de uitvoerende macht te dwingen hun AI-modellen aan de overheid over te dragen.

Ondertussen blijkt uit de laatste peilingen dat 75 procent van de Amerikanen, waaronder de meerderheid van de Republikeinen, tegen de bouw van datacenters in hun buurt is. Meer dan 500 gemeenten in het land hebben de bouw van datacenters beperkt of verboden. Zou deze energie kunnen worden gekanaliseerd in een breder – en effectiever – kader voor AI-regulering? Tot nu toe heeft de tegenstand tegen datacenters zich vooral gericht op lokale milieuproblemen, niet op diplomatie tussen grootmachten. Maar dat is precies hoe de anti-kernenergiebeweging is begonnen.