De week waarin de paniek rond AI mainstream werd.

Waarschuwingen over AI die veel mensen, of zelfs iedereen, zou kunnen doden, gaan viraal. Hier zijn 3 dingen die de overheid zou kunnen doen.

AI – Zijn toonaangevende bedrijven op het gebied van kunstmatige intelligentie bezig met een race tegen de klok om een ​​gevaarlijke technologie te ontwikkelen die miljoenen mensen zou kunnen doden – of zelfs de hele mensheid zou kunnen uitroeien?

Dergelijke angsten circuleren al lange tijd in Silicon Valley en onder nichegemeenschappen die geobsedeerd zijn door AI. Sterker nog, verschillende van de grootste AI-bedrijven zijn opgericht door leiders die elk beweerden dat ze de zorgen over “existentiële risico’s” serieuzer zouden nemen dan hun concurrenten.

Belangrijkste conclusies

• Een waarschuwing van een ontslagen medewerker van Anthropic, dat geavanceerde AI de mensheid zou kunnen uitroeien, ging deze week viraal en leidde tot hernieuwde belangstelling voor de veiligheid van AI, zowel bij het publiek als in Washington.
• De waarschuwing vond weerklank vanwege recent nieuws over malafide AI-hacking, verbluffende toenames in AI-mogelijkheden en beweringen vanuit de industrie dat de technologie binnenkort nog veel krachtiger zal worden.
• Als de Amerikaanse overheid zou willen ingrijpen, zouden ambtenaren in principe kunnen proberen geavanceerde AI te verbieden, nieuwe controle- of goedkeuringseisen voor dergelijk onderzoek te stellen, of de aansprakelijkheidsnormen aan te scherpen in de hoop dat de bedrijven hun risico’s zullen beperken.
• Hoewel velen actie willen zien, blijven er serieuze obstakels bestaan ​​– van de scepsis van president Trump zelf tot het risico dat de snelle verbetering van de technologie de overheid achterop zal laten raken.

Maar naarmate de AI-projecten van OpenAI, Anthropic en andere bedrijven de afgelopen jaren vorderden, werden de zorgen van het grote publiek over het algemeen minder apocalyptisch. Zorgen over de impact van AI op banen , het milieu , energiekosten of onze politiek domineerden het debat, waarbij het vooruitzicht van menselijke uitsterving tamelijk vergezocht leek.

Dat is nu veranderd.

Deze week brak de angst dat AI ons allemaal zou kunnen uitroeien eindelijk door in de mainstream media. Het trok de publieke aandacht en zette zelfs politici aan tot een agressievere houding. Een ongekend incident met een op hol geslagen AI-systeem, het opduiken van een prominent medewerker van een top-AI-bedrijf en de toenemende bezorgdheid van technologieonderzoekers over de snelle ontwikkeling van AI, waardoor deze niet meer te beheersen is, hebben samen geleid tot een veel luidere reactie van gekozen leiders van beide partijen.

Het punt is echter dat politici dit onderwerp al hebben besproken. De regering-Biden vaardigde een omvangrijk decreet uit om de schadelijke gevolgen van AI te beperken, dat president Donald Trump echter weer introk . De afgelopen twee Congressen hebben verschillende AI-werkgroepen beloofd, die grotendeels zijn gestrand of stil zijn gevallen. Zelfs het Witte Huis onder Trump heeft een versie van een AI-veiligheidsplan, dat het ook daadwerkelijk uitvoert – al worden de details daarvan geheim gehouden .

De afgelopen dagen stonden de kranten vol met berichten over geavanceerde AI die mensen helpt verbluffende doorbraken te bereiken op het gebied van wiskunde , maar ook op het gebied van hacking (onderzoekers op het gebied van cyberbeveiliging ontwikkelden een tool waarmee honderden miljoenen telefoons konden worden overgenomen).

Daarnaast zijn er de onheilspellende uitspraken van mensen bij toonaangevende AI-bedrijven over waar ze momenteel aan werken. De bedrijven proberen over te stappen op ” recursieve zelfverbetering ” – dat wil zeggen, het proces van het ontwikkelen en verbeteren van AI-modellen overlaten aan AI zelf, omdat dat sneller zou zijn.

Hoewel het nog steeds theoretisch is, vormt dit al lange tijd een kernpunt in de doemtheorieën van mensen die vrezen dat AI snel iets zou kunnen worden dat we niet begrijpen en niet kunnen beheersen – en misschien zelfs zijn sporen zou kunnen uitwissen. Coxon noemde deze angst voor “zelfverbeterende superintelligentie” specifiek in zijn bericht.

Of je nu het meest bang bent voor mensen die geavanceerde AI voor snode doeleinden gebruiken, voor autonome AI die ongecontroleerde cyberaanvallen uitvoert, of voor de geboorte van een superintelligentie die ons allemaal zou kunnen vernietigen – er is een groeiende belangstelling voor wat Washington hieraan kan doen. Maar wat zouden ze eraan moeten doen?

Drie overheidsbenaderingen voor de veiligheid van AI

In gesprekken met voorvechters van AI-veiligheid hoorde ik drie belangrijke benaderingen voorbijkomen.

De eerste optie lijkt de eenvoudigste: verbied het gewoon.

Senator Bernie Sanders (I-VT) en afgevaardigde Greg Casar (D-TX) stellen een permanent verbod voor op ‘superintelligente AI-systemen’, die zij definiëren als systemen die ‘de cognitieve prestaties en capaciteiten van de mens kunnen evenaren of overtreffen op een breed scala aan domeinen of taken’. Hun voorstel zou ook alle geavanceerde AI-ontwikkeling stopzetten totdat een nieuw federaal agentschap is opgericht om deze te reguleren.

Toch achten weinigen het aannemelijk dat de regering-Trump hiermee zal instemmen, gezien Trumps overtuiging dat AI-datacenters zijn ” gouden gans ” zijn die de economie een boost geeft.

“We worstelen echt met vragen over de politieke haalbaarheid”, vertelde Jessica Ji, analist bij het Center for Security and Emerging Technology van Georgetown University, me. “Veel voorstellen moeten rekening houden met wat de regering-Trump specifiek bereid is te accepteren.”

Er bestaat ook een breed gedragen vrees, zowel binnen de Democratische als de Republikeinse partij, dat als we de ontwikkeling van AI in de VS eenzijdig stopzetten, rivaliserende machten zoals China gewoon door zullen gaan en dezelfde rampzalige gevolgen zullen riskeren die we juist proberen te voorkomen. Dat betekent dat een echte oplossing niet alleen nieuwe regels voor de VS vereist, maar ook de nog veel moeilijkere taak om een ​​controleerbaar internationaal akkoord te bereiken om een ​​AI-wapenwedloop te voorkomen.

De tweede benadering is dus om door te gaan met de ontwikkeling van geavanceerde AI, maar de overheid of een onafhankelijke groep de bevoegdheid te geven om systemen te beoordelen of te blokkeren die door ambtenaren als gevaarlijk worden beschouwd. Er bestaan ​​echter zeer uiteenlopende ideeën over wie precies deze bevoegdheid moet krijgen en hoe machtig die persoon moet zijn.

De regering-Trump stond open voor varianten van deze aanpak. Ze hebben al een procedure ingesteld waarbij toonaangevende AI-bedrijven hun nieuwste modellen vrijwillig ter beoordeling aan de overheid voorleggen voordat ze worden uitgebracht – iets waar OpenAI aan deelnam vóór de release van hun nieuwste model, Astra, vorige week. Maar de procedure is geheimzinnig, de criteria zijn onduidelijk en we weten niet of de ambtenaren die deze modellen beoordelen ze wel goed begrijpen.

De regering overweegt nog een stap verder te gaan. Deze zomer bespraken functionarissen van Trump naar verluidt een voorstel om een ​​organisatie voor AI-toezicht op te richten, naar het voorbeeld van FINRA, de Financial Industry Regulatory Authority. FINRA staat weliswaar onder toezicht van de overheid, maar is een door de industrie gefinancierde en geleide instantie. Dit zou betekenen dat de AI-industrie zichzelf probeert te reguleren. Maar tech-CEO’s zoals Mark Zuckerberg waren tegen het idee , en er is tot nu toe nog geen actie ondernomen.

Voor veel voorstanders van AI-veiligheid is dat echter niet genoeg. Zij willen een overheidsinstantie met technisch onderlegde en bevoegde functionarissen die daadwerkelijk kunnen begrijpen en beoordelen wat deze bedrijven doen.

“De overheid moet veel inzicht hebben in wat er gebeurt bij bedrijven die baanbrekende AI ontwikkelen. Dit betekent dat ze veel moet weten over hun veiligheidsplannen, veel moet weten over incidenten nadat deze zich hebben voorgedaan, en dat dit alles wettelijk bindend moet zijn in plaats van vrijwillig,” aldus Scott Wisor, beleidsdirecteur bij het Secure AI Project.

Een alternatieve route voor zelfregulering door de industrie of een sterke overheidsbemoeienis zou zijn dat de overheid non-profitorganisaties op het gebied van AI-veiligheid de bevoegdheid geeft om de activiteiten van deze bedrijven te beoordelen. Sommigen wijzen daarbij op METR, de non-profitorganisatie die OpenAI de opdracht gaf om een ​​onafhankelijk onderzoek te doen naar de Hugging Face-hack.

Een derde benadering zou er ten slotte op gericht zijn om het juridische risico te vergroten in de hoop dat grote AI-bedrijven hun gedrag veranderen en voorzichtiger te werk gaan. Denk bijvoorbeeld aan de recente schikking van Meta van meerdere miljarden dollars vanwege het gebruik van sociale media door tieners, die naar verwachting nieuwe industrienormen zal vaststellen, nog voordat het Congres hierover een besluit neemt.

“Wat volgens mij centraal moet staan ​​in de regulering van AI, is een strikt aansprakelijkheidsregime,” vertelde Gabriel Weil, hoogleraar rechten aan de Universiteit van Houston en senior fellow bij het Institute for Law and AI, mij.

Weil is van mening dat het huidige aansprakelijkheidsrecht slecht is toegerust voor problemen met AI-agenten die autonoom handelen. “Als een medewerker van OpenAI Hugging Face had gehackt, zou het 100 procent duidelijk zijn dat OpenAI daarvoor aansprakelijk zou zijn”, aldus Weil. Maar op dit moment, zo stelt hij, zou een rechtszaak hierover moeten bewijzen dat mensen bij OpenAI of het bedrijf zelf zich onredelijk hebben gedragen of redelijke voorzorgsmaatregelen hebben verzuimd.

Hij stelt daarom voor om duidelijk te maken dat AI-bedrijven wettelijk verantwoordelijk zijn voor schadelijk gedrag van hun agenten, en om hen te verplichten een aansprakelijkheidsverzekering af te sluiten voor catastrofale risico’s die tot een faillissement van het bedrijf zouden kunnen leiden. Ook wil hij voorstellen om hen aansprakelijk te stellen voor schade bij incidenten die op het nippertje aan een ramp zijn ontsnapt, maar wel catastrofale gevolgen hadden kunnen hebben.

Washington is overigens niet de enige die zich met nieuwe wetgeving bezighoudt. Er heerste enig optimisme over de wetgeving in de staten, met name in staten waar de Democraten traditioneel sterk staan, mits de Democratische achterban zich meer inzet voor de veiligheid van AI. De gouverneur van Californië, Gavin Newsom, ondertekende deze week nieuwe wetgeving over de veiligheid van AI, met steun van grote AI-bedrijven.

“Ik denk dat we dit model zullen voortzetten, waarbij staten min of meer gedwongen worden om in te grijpen, en dat we nieuwe vormen van AI-beleid vanuit de staten zullen zien komen in plaats van vanuit de federale overheid,” aldus Ji.

Maar zal dit gepraat ook tot daden leiden?

Toch heerste er in mijn gesprekken een wijdverspreide scepsis over de vraag of een gepolariseerd Congres er op korte termijn in zou slagen een belangrijke wet aan te nemen, of dat andere wegen op tijd vrucht zouden dragen om gevaarlijke ontwikkelingen af ​​te wenden.

Hoewel de regering-Trump enige bereidheid heeft getoond om actie te ondernemen, lijkt de president zelf daar minder toe geneigd. Toen hem deze week door journalisten werd gevraagd of hij zich zorgen maakte dat AI de mensheid zou kunnen uitroeien, antwoordde hij: “Nee, die maak ik niet.” Hij voegde eraan toe : “Ik maak me wel zorgen dat als we AI niet verslaan, we in een zeer lastige positie terechtkomen.”

Trumps steun voor het concept van de “AI-race” is echter precies waar veiligheidsdeskundigen zich zo druk om maken: dat grote bedrijven in hun overhaaste streven naar superintelligentie als eerste iets uiterst rampzaligs zullen creëren. Bovendien vrezen ze dat de ergste scenario’s zich plotseling kunnen voordoen – en als deze bedrijven AI de ruimte geven om steeds krachtigere versies van zichzelf te ontwikkelen, kan het erg moeilijk zijn om de geest weer in de fles te krijgen.

Het goede nieuws is, in zekere zin, dat veel van de voorgestelde oplossingen zich binnen het kader bevinden van wat de overheid al eerder heeft gedaan en niet onrealistisch zijn – ze vereisen alleen eensgezinde actie en politieke wil. We zijn er in het verleden in geslaagd dit te doen met allerlei angstaanjagende technologieën, van kernwapens tot de auto.

Er is echter ook slecht nieuws: de tijdsfactor. AI zou zich in theorie zo snel kunnen ontwikkelen dat het onze controle ontglipt, net op het moment dat het extreem gevaarlijk wordt – en de overheid, zelfs een functionerende overheid met goede bedoelingen, kan daar simpelweg niet snel genoeg op reageren.

“Uiteindelijk vrees ik dat het publiek nu al een enorm risico neemt en dat de tijdspanne waarin wetgevende oplossingen beschikbaar komen, mogelijk niet snel genoeg is voor de omvang van de uitdaging die voor ons ligt”, aldus Steven Adler, een voormalig onderzoeker op het gebied van veiligheid bij OpenAI en medeoprichter van de non-profitorganisatie Guidelight AI Standards.

Mede daarom was de meest verontrustende gedachte die ik herhaaldelijk in mijn gesprekken hoorde, dat Coxons waarschuwing weliswaar veel aandacht trok, maar dat dit misschien niet genoeg zou zijn – en dat de overheid pas in actie zou komen als AI daadwerkelijk mensenlevens zou eisen.

Voor sommigen is dat zelfs een relatief optimistisch scenario. Misschien kunnen enkele dodelijke, maar niet voor de mensheid bedreigende, gebeurtenissen actie teweegbrengen om de gevaarlijke ontwikkeling van AI in te perken voordat het werkelijk een bedreiging voor de soort vormt. Laten we hopen van wel?