Vertrekkende antroposcopische onderzoeker waarschuwt voor een AI-gebeurtenis die tot uitsterving kan leiden
indignatieai-redactie
5 min read
Een onderzoeker van het AI-bedrijf Anthropic gaf een grimmige waarschuwing af in een bericht op sociale media waarin hij zijn ontslag aankondigde. En het doemscenario dat hij schetste was nog niet eens het meest verontrustende aspect.
Het voordeel van AI kunstmatige intelligentie is dat het goed is in spreadsheets, vaak een redelijke job doet met het opstellen van e-mails en studenten kan helpen om via fraude een diploma te behalen.
Het nadeel is dat deze technologie ons over een paar jaar wellicht allemaal zal uitroeien.
Dat is de huiveringwekkende waarschuwing die een onderzoeker op het gebied van kunstmatige intelligentie, die voor OpenAI en Anthropic werkte, dinsdag in een bericht op sociale media uitte waarin hij zijn ontslag aankondigde.
En dat was nog niet eens het ergste. Maar daar komen we zo meteen op terug.
De onderzoeker Jacob Coxon schreef dat zijn beide voormalige werkgevers “met onze levens gokken”.
In een reeks berichten die iedereen zou moeten lezen, legde hij vervolgens de inzet gedetailleerd uit:
De mensen die aan AI werken, geloven oprecht dat het ons allemaal zou kunnen uitroeien tegen het einde van dit decennium. Dit is geen marketingtruc. Sterker nog, veel managers en senior onderzoekers zullen hun woorden in de pers zo formuleren dat ze verstandig overkomen, maar ik hoor diezelfde mensen privé hun angst uiten. Geen enkele andere menselijke activiteit vormt een dergelijk gevaar.
Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Coxon wees specifiek op het risico dat bedrijven proberen een “zelfverbeterende superintelligentie” te creëren die “alles kan hacken, elk vakgebied van de ene op de andere dag kan revolutioneren en echte macht en middelen kan verwerven”.
Hij voegde eraan toe dat hij niet gelooft dat een van beide bedrijven waarvoor hij heeft gewerkt “verantwoordelijk handelt” – hoewel hij wel een onderscheid maakte tussen de twee.
“Bij OpenAI hebben velen de maatschappelijke gevolgen niet volledig doorgrond,” schreef Coxon. “Bij Anthropic zijn de gevolgen wel degelijk duidelijk, maar ze zijn verwikkeld in een race om er als eerste te zijn – ze geloven dat niemand anders verantwoordelijk zal handelen, dus moeten ze het zelf doen, ondanks het risico.”
Hoewel andere insiders soortgelijke waarschuwingen hebben geuit , zijn er ook die ze afdoen als de woorden van ontevreden werknemers die doemscenario’s schetsen om aandacht te trekken.
Een van degenen die daar anders over denkt, is Evan Hubinger, die bij Anthropic de inspanningen leidt om kunstmatige intelligentie in lijn te houden met menselijke doelen en waarden – oftewel, om te voorkomen dat het iedereen uitroeit. Hij gaf ook zijn mening over de kwesties die zijn (voormalige) collega aan de orde stelde.
“Jacob heeft hier gelijk: we geloven echt dat AI alle mensen zou kunnen uitroeien! Ik denk persoonlijk dat de kans daarop binnen het volgende decennium groter is dan 10%,” schreef hij . “Ik geloof dat Anthropic zijn best doet, maar we hebben nog geen plan om de afstemming voor superintelligentie op te lossen en we zijn er ook niet duidelijk op weg naartoe.”
Meer dan 10 procent???
Zodat mensen hun eigen inbox niet hoeven te organiseren en een paar tech-jongens rijker worden, terwijl gewone Amerikanen hun baan verliezen aan robots?
Dat klinkt niet als een geweldige deal.
Het is overduidelijk dat de hebzucht van deze tech-jongens veel doden en ontelbare bestaansmiddelen tot gevolg zal hebben.
Coxon denkt daar absoluut anders over.
“Het accepteren van deze race en het betreden van de ‘eindfase’ is een overmoedige gok die niet vanuit de Slack-omgeving van een privébedrijf moet worden genomen,” schreef hij.
Wat zijn waarschuwing benadrukt, is dat het allang tijd is dat regeringen ingrijpen en een einde maken aan deze waanzin. Het is overduidelijk dat de hebzucht van deze tech-bro’s veel mensenlevens zal kosten en talloze bestaansmiddelen zal ruïneren – en misschien zelfs de beschaving zoals wij die kennen zal vernietigen.
De belangrijkste vragen zijn nu hoeveel doden er zullen vallen en hoe snel dat zal gebeuren, en dat zal afhangen van de samenwerking tussen regeringen om deze bedrijven aan banden te leggen.
Aangezien ongecontroleerde AI een van de belangrijkste thema’s is voor kiezers, is dit een gouden kans voor een politieke partij om niet alleen het juiste te doen, maar ook iets te doen wat het publiek daadwerkelijk wil.
Er is geen vergelijkbare situatie in de geschiedenis. De laatste keer dat de mensheid technologie ontwikkelde met het potentieel om de mensheid uit te roeien, was tijdens het Manhattanproject, dat de eerste atoombom bouwde.
Destijds, in de jaren veertig, vormden de Asmogendheden een existentiële bedreiging voor de westerse beschaving die alleen bestreden kon worden met een gezamenlijke inspanning. Het Manhattanproject was echter een overheidsproject. Stel je eens voor wat er had kunnen gebeuren als particuliere bedrijven zonder enige vorm van toezicht hun eigen kernwapens hadden mogen ontwikkelen en verkopen.
Helaas lijkt niemand bereid de ongecontroleerde AI-industrie aan te pakken en te reguleren – zeker niet de regering-Trump (of de wetgevers die daarvan profiteren ).
Wat zo frustrerend is aan de passiviteit van de overheid, is dat het Amerikaanse volk dit allemaal niet wil.
Ze geloven dat AI slecht voor hen zal zijn en ze willen de datacenters niet die nodig zijn om een technologie te ondersteunen die velen van hen hun baan zal kosten en hun buurten zal vervuilen.
Aangezien ongecontroleerde AI een van de belangrijkste thema’s is voor kiezers, is dit een gouden kans voor een politieke partij om niet alleen het juiste te doen, maar ook iets te doen wat het publiek daadwerkelijk wil.
En in de meeste gevallen doen ze het nog steeds niet.
Als de Democraten de controle over het Congres heroveren, zou dit een topprioriteit voor hen moeten zijn, en tevens een kans om het voortouw te nemen in een populaire kwestie.
Zal dat gebeuren?
Laten we zeggen dat we net zo optimistisch zijn als Coxon over de toekomst van deze technologie.
