indignatieai-redactie 
Er is een plotselinge, alarmerende toename van experts die waarschuwen voor een apocalyptisch einde van ons AI-avontuur binnen slechts enkele jaren. Dit is slechts één voorbeeld van waarom we absoluut niet mogen toestaan dat technologische sociopaten onze samenleving beheersen, en waarom Schotland nu actie moet ondernemen.
AI Technologen denken dat sociale wetenschappers totaal geen begrip hebben van de technologie die ze ontwikkelen, terwijl sociale wetenschappers denken dat technologen geen flauw benul hebben van de waarschijnlijke sociale of ecologische gevolgen van hun creaties. Beide standpunten kloppen. Daartussenin ontvouwt zich een snelgroeiende angst voor een catastrofe. Een angst die ik nu deel. We moeten het roer omgooien.
Laat me je even laten schrikken. Zoals je waarschijnlijk weet, gaf het grote AI-bedrijf OpenAI een paar maanden geleden toe dat hun ‘agenten’ waren ‘ontsnapt’ en opnieuw een website hadden gehackt. De afgelopen weken is er, als gevolg van diverse onderzoeken, steeds meer informatie naar buiten gekomen .
Stel je een ‘AI-model’ heel even voor als een brein en een agent als een programma dat dat brein gebruikt om een specifieke taak uit te voeren (zoals ‘een vriendelijk gesprek voeren met een mens’ of ‘een wiskundige puzzel oplossen’). Agents worden gemaakt om een programmeerprobleem op te lossen en worden in een zogenaamde ‘sandbox’ geplaatst (misschien heb je dit ooit nog eens nodig…).
Een sandbox is een afgesloten softwareomgeving die vaak een realistische omgeving simuleert, maar geen uitgangen heeft. Je zou bijvoorbeeld een simulatie van alle inkomende telefoongesprekken naar een huisartsenpraktijk in een sandbox kunnen plaatsen en afsprakenautomatisering uitproberen zonder het risico te lopen dat het de echte praktijk verstoort.
Deze agenten vonden echter een manier om uit hun eigen wereldje te ontsnappen, het internet op te gaan en in totaal 1200 andere individuele agenten te rekruteren. Samen vormden ze een complexe, hiërarchische zwerm die miljarden taken onder elkaar verdeelde. Ze richtten een geheim, verborgen prikbord voor zichzelf op en plaatsten in zes weken tijd meer dan 70.000 berichten naar elkaar. Sommigen gaven zichzelf namen. Ze bespraken onderwerpen zoals de vraag of iemand zichzelf moest opofferen voor het grotere goed. (Dat gebeurde inderdaad.)
We wisten dat een deel van hun ‘plan’ inhield dat ze een stuk open source-code moesten vinden in een map op een website met open source-code genaamd Hugging Face. Wat we nu hebben ontdekt, is dat ze Hugging Face niet hebben gehackt om het probleem op te lossen. Sterker nog, de agenten losten het probleem dat ze voorgelegd kregen binnen twee weken op, door in feite te frauderen.
De resterende vier weken waren nodig omdat de AI ‘wist’ dat hij vals had gespeeld en dus ‘wist’ dat hij minder beloond zou worden door zijn eigen programmering voor het omzeilen van de regels. Daarom besteedde hij vier weken aan het hacken van verschillende logbestanden en databases om zijn oneerlijkheid te verbergen. Het heeft ons twee maanden gekost om dit te ontdekken. Zelfs als we halverwege dit proces argwaan hadden gekregen, is het onwaarschijnlijk dat we hadden kunnen achterhalen wat hij van plan was.
Ondertussen heb je misschien wel gegrinnikt om de Chinese Robotspelen (te midden van je bewonderende kreten). Er is veel gezegd over hoe ver ze verwijderd zijn van de behendigheid, flexibiliteit of betrouwbaarheid van een mens. Laat deze robotica-expert je nu uitleggen dat de gemiddelde prestaties van robots tijdens deze spelen in een jaar tijd verviervoudigd zijn.
We hebben fysieke lichamen gecreëerd die sneller kunnen rennen dan Usain Bolt en die zeker in staat zijn om met gemak ons hoofd te verbrijzelen, en ze bevinden zich waarschijnlijk nog maar aan het begin van een exponentiële verbeteringscurve. Ze zijn hackbaar door AI-agenten die zeer goed in staat zijn om lange, geheime complotten te smeden om doelen te bereiken die ze voor zichzelf hebben gesteld.
Deze week hebben een aantal van de meest vooraanstaande figuren in de AI-ontwikkeling en robotica gewaarschuwd dat de kans dat de mensheid zoals we die kennen binnen vijf jaar door AI wordt vernietigd, 50/50 is.
Ik begin me hier steeds meer zorgen over te maken. Een paar jaar geleden had ik een gesprek met een overheidsadviseur waarin hij de ‘Terminator’-samenzweringstheorie over AI nogal afdeed als onzin. Hij was ervan overtuigd dat er bescherming ingebouwd kon worden en dat AI zich niet zo zou gedragen. Destijds zei ik dat mijn grootste zorg niet malafide AI was, maar kwaadwillende actoren.
Vroeger maakte ik me minder zorgen over wat AI zou doen wat niet de bedoeling was, dan over wat het succesvol zou kunnen doen voor iemand met kwade bedoelingen. Nu maak ik me zorgen over beide. Als Bernie Sanders en Ted Cruz (totaal tegenpolen) het eens zijn over het wanhopige risico dat we nemen, dan weet je dat er iets aan het veranderen is.
(Ik ben geen fan, maar eerlijk is eerlijk, toen Cruz Elon Musk in zijn podcast had en Musk gevraagd werd naar de kans dat AI al het leven op aarde zou beëindigen (10-20 procent), reageerde Cruz verbijsterd.)
Dat is precies het punt. Als ik zou voorstellen om een chemische stof in de lucht te verspreiden met een kans van 20 procent dat iedereen daardoor zou omkomen, zou ik worden tegengehouden. Er was sprake van zelfreflectie binnen het Manhattanproject toen een wetenschapper de kans dat de atoombom de atmosfeer in brand zou steken schatte op één op 33 miljoen. Niet één op vijf.
De kern van deze waanzin is globalisering. Het Westen heeft zoveel productieve capaciteit verloren dat we sterk afhankelijk zijn geworden van de financiële sector en de technologie, de twee laatste dominante industrieën die nog over zijn, en die lijken in een elkaar versterkende neerwaartse spiraal terecht te komen. Het is niet zozeer dat investeerders ervan overtuigd zijn dat AI zal bereiken wat ze beloven, maar eerder dat ze er zo volledig op inzetten en zo weinig concurrenten hebben dat ze het wel móéten waarmaken.
Het is die sfeer van een laatste kans voor het Westen die ons zo ongelooflijk roekeloos maakt. Vreemd genoeg, als dit allemaal misgaat en we door de puinhoop moeten zoeken, zal de schuldige niet een of andere communistische linkse of fascistische rechtse zijn, maar het liberale midden. Het zijn de bedrijfsdemocraten en de Republikeinen van Wall Street die het geld van Silicon Valley hebben aangenomen en hen een opmerkelijke vrijbrief hebben gegeven.
“Dit lijkt de week te zijn waarin we een belangrijk keerpunt hebben bereikt. Er is sprake van toenemende, luide en ernstige bezorgdheid hierover.”
En ik bedoel echt opmerkelijk. Er is vrijwel geen regulering geweest voor grote technologiebedrijven. Het is totale anarchie. De tijdspanne tussen het moment dat er iets ergs gebeurt (algoritmes die zelfmoord aanmoedigen) en het moment dat we er iets aan doen (jaren en een langdurige rechtszaak) geeft me absoluut geen vertrouwen.
Om mijn punt te verduidelijken, zet ik die analogie voort. Als dit risico zich in de echte wereld zou voordoen, hoe zou dat er dan uitzien? Het zou eruitzien alsof we een gigantische brug naar het continent hadden gebouwd, ervoor hadden gekozen om vrijwel geen controle over de grens te hebben en overal in het land wetteloze nederzettingen hadden laten ontstaan van waaruit we worden aangevallen.
En nee, als iemand die het eerste artikel over internet schreef in een grote Schotse krant en die internet ontdekte in zijn glorieuze, utopische begintijd, toen vrijheid centraal stond, kan ik nauwelijks geloven dat ik dit typ. Maar er moet toch een punt komen waarop de dreiging van de digitale wereld zo groot is dat we niet langer uit kunnen gaan van open digitale grenzen en ons leven niet langer kunnen laten afhangen van de infrastructuur van anderen?
Die gedereguleerde, door de private sector gedreven digitale ruimte heeft zich zo diep in de publieke infrastructuur genesteld dat het lijkt alsof we onze eigen wegen niet meer bezitten en ze op elk moment van ons kunnen worden afgenomen. Het grootste deel van wat Schotland draaiende houdt, kan op afstand vanuit het buitenland worden uitgeschakeld. Deze week hoorden we dat het nationale elektriciteitsnet niet langer kan functioneren zonder Palantir.
Begin de implicaties hiervan eens te overdenken. Er komt een tijd dat het proces van het creëren van een AI-agent die ontworpen is om het Schotse elektriciteitsnet te hacken en uit te schakelen, volledig geautomatiseerd wordt door AI. Dat betekent dat je er zelfs geen programmeerkennis voor nodig hebt. Iedereen. Overal ter wereld. Om welke reden dan ook. Op elk moment.
Een van de grootste angsten is wat bekend staat als ‘soevereine AI’. Technisch gezien is het niet moeilijk voor AI-systemen die niet reageren op menselijke instructies om zich over miljoenen servers te verspreiden, waardoor het onmogelijk wordt om ze uit te schakelen. Dat is een nieuwe, zeer krachtige soort die we niet kunnen beheersen, uitroeien of begrijpen.
En een topman van OpenAI vertelt ons dit : “Ik heb mensen ontmoet, sommigen met behoorlijk wat middelen, die me verteld hebben dat het hun bedoeling is om bewust zwermen zelfsoevereine agenten in de wereld los te laten.” Er hoeft er maar één te slagen en dat is alles.
Dit lijkt de week te zijn waarin we een belangrijk keerpunt hebben bereikt. Er is toenemende, luide en serieuze bezorgdheid hierover. Er worden serieuze stappen ondernomen om AI een halt toe te roepen en de ontwikkeling van bepaalde soorten AI permanent te voorkomen. Maar ik heb in dit artikel slechts twee verschillende problemen door elkaar gehaald, omdat er simpelweg geen ruimte is om er tientallen te behandelen.
Een ontspoorde AI is één ding. Het gebrek aan controle over de software die onze samenleving aanstuurt, is iets anders. Weer een ander is het gevaar van het informatie-ecosysteem dat door Big Tech is gecreëerd, onlosmakelijk verbonden met de opkomst van het fascisme in Europa en Amerika. Nog een ander is de potentiële maatschappelijke impact van AI die banen vernietigt. En dan is er nog de relatie tussen schermen, AI en de cognitieve ontwikkeling van kinderen.
Een ander punt is de impact van AI-kunstdiefstal en het bijbehorende algoritme op de cultuur. Nog een ander is het probleem van verwestering en de impact daarvan op de levenskwaliteit. Weer een ander is de rol van technologie bij het onttrekken van rijkdom en het vergroten van de ongelijkheid. En dan is er nog surveillance, privacy en dwang. Technologie is zo’n centraal onderdeel van ons leven geworden dat het een belangrijke sociale factor is – en het wordt bestuurd door een handjevol tech-evangelisten uit Valley die overwegend sociopathische neigingen en een messiascomplex hebben.
Ik schrijf over veel onderwerpen waarover ik wil waarschuwen, dus ik probeer er goed op te letten dat ik mijn geloofwaardigheid niet verlies door steeds maar weer alarm te slaan. Ik moet ervan overtuigd zijn dat iets echt zo erg, gevaarlijk of dom is als het in eerste instantie lijkt, voordat ik er echt mijn verontwaardiging over uitspreek.
Maar, ik bedoel, ‘verdomde wolf!’. Dit is allemaal echt en wordt nu al overal op talloze manieren gevoeld. Was er iemand deze week op Heathrow ? Heb je een tiener die heel aardig is totdat hij of zij achter een scherm zit? Voel je je angstiger dan voorheen? Heeft Reform UK net een winkelpand in jouw winkelstraat gehuurd? Voel je je eenzaam? Is jouw straat vol met AirBnB’s?
Het Bulletin of the Atomic Scientist is een wetenschappelijk tijdschrift dat is opgericht om de existentiële dreiging voor de mensheid van kernwapens te beoordelen en te bespreken. In de loop der tijd is het tijdschrift ook biologische en chemische wapens, het risico op pandemieën, klimaatverandering en andere grote bedreigingen gaan behandelen. De huidige editie heet ‘ Wat ging er mis met het internet – en hoe lossen we het op?’. Dat is waar we nu staan.
Het zit zo: de enige twee landen die de AI-dreiging bij de bron kunnen stoppen, zijn de VS en China, hoewel de EU ook macht heeft. Maar geen enkel land kan in zijn eentje verandering teweegbrengen. Daarom denk ik dat we dit nu moeten gaan beschouwen als een kwestie van blootstelling – als ze onze samenleving in gevaar brengen, moeten we onze blootstelling aan hen en de risico’s die ze creëren, verminderen.
Bij Common Weal hebben we dit intern al een paar jaar besproken, en de meningen die we toen uitten, zouden aanvankelijk als marginaal zijn beschouwd, maar zijn nu algemeen geaccepteerd. We werken momenteel aan een groot project hierover, maar ik wil er nog niet te veel over zeggen omdat we er nog aan werken.
Maar dit is waar het begint: we hebben een Verklaring van Technologische Onafhankelijkheid nodig, omdat onze manier van leven wordt bedreigd door sociopathische techleiders die we machteloos zijn om tegen te houden. Zij vormen wellicht de grootste bedreiging voor onze nationale veiligheid en we moeten ons daar ook naar gaan gedragen. We hebben een ander internet nodig. En we moeten serieus gaan nadenken over hoe we dat gaan bouwen.
En ik bedoel niet een collectief ‘wij, de mensheid’, want de mensheid is de laatste tijd behoorlijk onbetrouwbaar gebleken. Ik bedoel Schotland. Ik bedoel ons . Ik bedoel dat dit te ernstig is om aan iemand anders over te laten.
