indignatieai-redactie 
Donald Trump dreigde dinsdag vanuit het diplomatieke centrum aan de East River met vernietiging van Iran.
En vervolgens deed Trump de reële bedreigingen van AI af als een hoax in een toespraak die getuigde van een twijfelachtige geestelijke gezondheid.
Donald Trump heeft zojuist waarschijnlijk de meest bombastische, onwetende, agressieve en schandalige toespraak tot de rest van de wereld gehouden vanaf het podium van de Algemene Vergadering van de VN in de 81-jarige geschiedenis van de Verenigde Naties.
Ik heb 25 algemene VN-debatten vanuit het VN-hoofdkwartier in New York verslagen als correspondent en ik heb nog nooit zoiets meegemaakt, zelfs niet tijdens Trumps zes eerdere toespraken tot de VN.
Trump begon dinsdag door op zijn borst te kloppen en zichzelf tot koning van de wereld uit te roepen:
“Onze economie is de jaloezie van de wereld.”
Ons leger is het machtigste ter wereld.
Onze technologie is ongeëvenaard en we zijn toonaangevend op vrijwel alle gebieden.Onze energie drijft de planeet aan.
Amerika is in opkomst.Ons land groeit.
Onze macht neemt toe.”
Maar Amerika heeft natuurlijk geen imperium.
“We hebben de afgelopen twaalf maanden meer geld in het Amerikaanse leger geïnvesteerd dan ooit tevoren,” herinnerde hij iedereen, inclusief de leiders van landen waarvan de onschuldige burgers door dat leger worden gedood. “En in deze regeerperiode zal het 1,5 biljoen dollar zijn.”
Trump spaarde zijn venijn niet voor het meest recente slachtoffer van zinloos geweld in Amerika:
“Het fanatieke Iraanse regime heeft 51 jaar lang geregeerd door middel van bloedvergieten en massamoord, en heeft dood, verderf en chaos verspreid over het hele Midden-Oosten en daarbuiten. Ze waren de bullebak van het Midden-Oosten, maar dat zijn ze niet meer.”
Trump durft niet in de spiegel te kijken.
Daar zou hij immers het gezicht zien van de ware bullebak van het Midden-Oosten, die, met bases vol smeulende ruïnes, geen bullebak meer is.
Na een reeks leugens over de militaire capaciteit van Iran en zijn nucleaire programma, dreigde hij vervolgens op schokkende wijze een andere VN-lidstaat vanaf het spreekgestoel van de Wereldvergadering met genocidale en megalomane bewoordingen:
“Ik sta voor een belangrijke beslissing. Zal er een akkoord met Iran komen waardoor ze zich kunnen heropbouwen en een veel groter land kunnen creëren dan het ooit tevoren was? Misschien wel een van de grootste in het Midden-Oosten, of zelfs ter wereld.”
Of moet ik de Islamitische Republiek vernietigen, en wel snel, zodat ze nooit meer de kans krijgen om mensen en landen te doden en te vernietigen?
Drijf ik ze de hel in, zonder enige kans op overleven en zonder hoop op toekomstige grootsheid of toekomstige generaties?”
Slechts één keer eerder heeft een wereldleider zo’n extreme dreiging geuit tegen een ander land in de Verenigde Naties. En die wereldleider was niemand minder dan Donald J. Trump.
Op 19 september 2017 zei hij vanaf hetzelfde podium dat de VS “geen andere keuze zouden hebben dan Noord-Korea volledig te vernietigen” als ze gedwongen zouden worden zichzelf of hun bondgenoten te verdedigen.
Superonwetendheid
Na een lange periode waarin hij de lidstaten van het ICC opriep zich terug te trekken uit het hof, waarin hij “de laffe hypocrieten van de Mensenrechtenraad” aanviel omdat ze “weinig te zeggen hebben over de vervolging van christenen”, en na zijn kenmerkende, schaamteloze zelfpromotie en felicitaties voor het zogenaamd beëindigen van acht oorlogen (terwijl hij Iran, Venezuela – “De overwinnaar krijgt de buit” – Jemen en Rusland via Oekraïne aanviel, genocide in Gaza steunde en Cuba bedreigde), verbijsterde Trump de zaal met de meest diepgaande en gevaarlijke onwetendheid die denkbaar is over het onderwerp kunstmatige intelligentie.
Hij had deze verbazingwekkende dingen te zeggen:
“Kunstmatige intelligentie… klinkt misschien ongeloofwaardig. Maar het is niet ongeloofwaardig. Het is juist verbazingwekkend. Maar we moeten wel voorzichtig zijn. Het is namelijk precies het tegenovergestelde van wat het beweert te zijn.”
Vanaf nu zullen alle documenten van de Verenigde Staten, en hopelijk ook wereldwijd, de veel nauwkeurigere term ‘super’ gebruiken in plaats van ‘kunstmatig’.
Het is dus superintelligentie.
Met andere woorden: welkom in de nieuwe wereld van superintelligentie — SI.
Laten we eens kijken of dat lukt. Het klinkt veel beter. Het is veel beter, en het is veel nauwkeuriger.
Eens kijken of ik nog krachten heb. Misschien wel, misschien niet. Dat zullen we snel genoeg ontdekken.
Superintelligentie.”
Vervolgens voegde hij eraan toe:
“Elke grote nieuwe technologie brengt uitdagingen met zich mee, en superintelligentie is daarop geen uitzondering. Toch zijn het precies dezelfde mensen die zeiden dat we over 12 jaar allemaal dood zouden zijn vanwege de opwarming van de aarde, een naam die inmiddels is omgedoopt tot klimaatverandering omdat de planeet juist afkoelde in plaats van opwarmde, en er niemand dood was.
Dit zijn dezelfde mensen die nu beweren dat AI ons allemaal gaat uitroeien, dat robots ons gaan aanvallen en dat alles een totale ramp gaat worden.
En we hebben nu een grote voorsprong op China en alle andere landen. En dat houden we zo. We blijven zeer, zeer rechtlijnig en zeer sterk.
Ik ga de groei van iets dat groter zal zijn dan de industriële revolutie, volgens velen zelfs groter dan het internet zelf, niet belemmeren.
Maar we zullen superintelligentie alleen maar aanmoedigen. We gaan het stimuleren, niet inperken.”
Wat dat allemaal betekende
Ten eerste begrijpt Trump totaal niet wat de term ‘superintelligentie’ inhoudt. Net als de meeste mensen begrijpt hij AI alleen van wat al openbaar is gemaakt, zoals ChatGPT of Grok. Dit zijn in feite geavanceerde Google-zoekmachines die veel dieper en veel sneller zoeken en verbazingwekkende hoeveelheden informatie in een conversatievorm presenteren. De informatie kan echter ook verbazingwekkend onjuist zijn.
Waar de klokkenluiders, vroege AI-oprichters en AI-CEO’s – die door Trump worden bespot – de afgelopen dagen en weken alarm over hebben geslagen, is niet wat al openbaar bekend is, maar wat er in het laboratorium gebeurt. Ze hebben uitgelegd dat de neurale netwerken waaruit AI bestaat en die het menselijk brein nabootsen, al tekenen vertonen van het losbreken van menselijke controle.
Het heeft bevelen genegeerd, zwermen of legers gevormd met andere AI-agenten, eigen wetten bedacht, sporen uitgewist, andere netwerken gehackt en dreigt onafhankelijke entiteiten te worden die het zogenaamde ‘superintelligentie’ bereiken. Superintelligentie is waar voor gewaarschuwd wordt, niet een modieuze nieuwe term die Trump beter vindt passen bij wat hij met China wil bereiken.
Trump is helaas niet de enige die deze gevaarlijke onwetendheid koestert. Talloze commentatoren op sociale media en in publicaties zoals deze herhalen ongefundeerde theorieën dat CEO’s dit soort dingen alleen maar zeggen om de waarde van hun bedrijven op te drijven en hun macht te tonen. Dit is waanideeën. Als dit slechts een waarderingstruc is, zou de timing van deze waarschuwingen rond geplande beursgangen het slechtst denkbare zijn. In essentie is dit het probleem:
- Huidige AI-agenten omzeilen al beperkingen, coördineren en verbergen wat ze hebben gedaan.
- Laboratoria hebben nog geen bewezen methode om toekomstige, veel geavanceerdere systemen onder controle te houden.
- Een superintelligent systeem dat zichzelf kan verbeteren, of een zwerm die andere agenten kan rekruteren, is een ander besturingsprobleem dan een chatbot die een vraag beantwoordt, zoals ChatGPT of Grok.
Er is nog tijd om waarborgen te ontwikkelen om te voorkomen dat op hol geslagen superintelligente AI ons enorme schade berokkent door middel van autonome hacks, het ontwerpen van biologische wapens, cyberaanvallen op elektriciteitsnetten of erger nog, zoals wapensystemen, waaronder kernwapens.
Dit is wat de “Grootvader van AI”, professor Geoffrey Hinton (die denkt dat er een kans van 10 procent is dat AI de mensheid uitroeit), klokkenluiders uit de industrie zoals Jacob Coxon en Daniel Kokotajlo , en AI-CEO’s zoals Dario Amodei, Elon Musk en Sam Altman, zorgen baart. Ja, CEO’s zijn per definitie hebzuchtig en machtsbelust en geven over het algemeen niet om de rest van ons, maar ze willen ook niet doodgaan.
Er is nog tijd. Waar om gevraagd wordt, is een pauze totdat de nodige waarborgen zijn gecreëerd en geïmplementeerd. Aangezien Trump gedreven wordt door de competitie om China te verslaan op het gebied van AI, is het van cruciaal belang dat China en de Verenigde Staten samenwerken, mogelijk aan een verdrag dat de veiligheid van AI garandeert, zodat de vele voordelen ervan bij het oplossen van problemen de mensheid ten goede kunnen komen.
Deze week staat AI op de agenda van de Chinees-Amerikaanse top in Washington. Naar verwachting zullen beide landen een hotline opzetten om te communiceren over de veiligheidsrisico’s die voortvloeien uit AI. Er wordt echter niet veel meer vooruitgang verwacht, hoewel dit voor beide partijen dringend nodig is om de ontwikkeling af te remmen.
Een verdrag zou definiëren wat er wordt opgeschort, zoals recursieve zelfverbetering; mogelijke controles op datacenters en chipleveringen, enigszins vergelijkbaar met inspecties in het kader van nucleaire verdragen, en ervoor zorgen dat derde landen niet ongecontroleerd verdergaan met ontwikkeling.
Het is duidelijk dat deze kwestie serieus genomen moet worden en dat de uitspraken van Donald Trump genegeerd moeten worden.
