indignatieai-redactie 
De belofte van AI wordt overschaduwd door de gevaren ervan, waaronder onze eigen vernietiging.
Voorstanders van kunstmatige intelligentie AI benadrukken de enorme voordelen van deze technologie. Zo wijst een artikel op CNN erop hoe kunstmatige intelligentie wetenschappers van Princeton helpt bij het oplossen van een “cruciaal probleem” met kernfusie . AI die tekst naar audio en audio naar tekst kan omzetten, maakt informatie toegankelijker. Veel digitale taken kunnen met deze technologie sneller worden uitgevoerd.
Alle voordelen die kunstmatige intelligentie mogelijk belooft, worden echter overschaduwd door de catastrofale gevaren van deze controversiële nieuwe technologie. De mensheid heeft slechts een kleine kans om een technologische revolutie te stoppen waarvan de onbedoelde negatieve gevolgen de voordelen op korte termijn ruimschoots zullen overtreffen.
Aan het begin van de 20e eeuw hadden mensen (met name in de Verenigde Staten) de wildgroei van auto’s theoretisch gezien kunnen stoppen door zich te richten op de verbetering van het openbaar vervoer. Daarmee zouden enorme hoeveelheden energie bespaard zijn, miljarden tonnen broeikasgasemissies voorkomen zijn en zouden er alleen al in de VS jaarlijks meer dan 40.000 doden bij auto-ongelukken zijn gevallen. Maar dat hebben we niet gedaan.
Halverwege de vorige eeuw hadden we de ontwikkeling van de atoombom wellicht kunnen tegenhouden en de apocalyptische gevaren waarin we ons nu bevinden, kunnen afwenden. Ook die kans hebben we gemist. (Er worden nog steeds nieuwe kernwapens ontworpen en gebouwd .)
Aan het eind van de 20e eeuw hadden regelgevingen gebaseerd op het voorzorgbeginsel de verspreiding van giftige chemicaliën die nu de hele planeet vergiftigen, kunnen voorkomen. Ook daarin hebben we gefaald.
Nu hebben we nog één kans.
Met AI besteedt de mensheid de uitvoerende controle over vrijwel elke belangrijke sector – financiën, oorlogvoering, geneeskunde en landbouw – uit aan algoritmes zonder moreel besef.
Als je je afvraagt wat er mis zou kunnen gaan, is het antwoord: heel veel.
Als het nog bestaat, zal de kans om kunstmatige intelligentie te stoppen snel verdwijnen. AI wordt sneller gecommercialiseerd dan andere belangrijke technologieën. Snelheid is zelfs de essentie ervan: het evolueert zelf door middel van machinaal leren, waarbij elke iteratie de wet van Moore ruimschoots overtreft .
En omdat AI wordt gebruikt om alles te versnellen wat een grote impact heeft op de planeet (productie, transport, communicatie en grondstoffenwinning), vormt het niet alleen een enorme bedreiging voor het voortbestaan van de mensheid, maar ook voor al het leven op aarde.
De gevaren van AI verspreiden zich als een lopend vuur.
In juni 2023 schreef ik een artikel waarin ik enkele gevaren van kunstmatige intelligentie schetste. Dat artikel is inmiddels behoorlijk achterhaald. In een korte tijd heeft AI namelijk gevaarlijkere implicaties aan het licht gebracht dan velen van ons zich hadden kunnen voorstellen.
In een artikel getiteld ” DNAI – De convergentie van kunstmatige intelligentie en kunstmatig leven “, beschrijft Jim Thomas de vooruitzichten voor “extreme genetische manipulatie” door AI. Kunstmatige intelligentie is niet alleen goed in het genereren van tekst en afbeeldingen, maar ook uitermate bedreven in het lezen en herschikken van de letters van het genetische alfabet.
AI-gigant Nvidia heeft al een systeem ontwikkeld dat Thomas “een eerste versie van ChatGPT voor het ontwerpen van virussen en microben” noemt, en toepassingen ervan worden in diverse levenswetenschappen gevonden, waaronder geneeskunde, landbouw en de ontwikkeling van biologische wapens.
Hoe zouden bioveiligheidsmaatregelen voor nieuwe synthetische organismen werken, gezien het feit dat het hele ontwerpsysteem dat ze creëert ondoorgrondelijk is? Hoe kunnen we onszelf adequaat beschermen tegen de gevaren van duizenden nieuwe, door kunstmatige intelligentie gegenereerde eiwitten, terwijl we er nu al een erbarmelijke prestatie leveren bij het inschatten van de gevaren van nieuwe chemicaliën?
Het onderzoek vordert razendsnel, maar toezicht en regelgeving gaan tergend langzaam.
De bedreigingen die kunstmatige intelligentie vormt voor het financiële systeem beginnen we pas net te begrijpen. In december 2023 classificeerde de Amerikaanse Financial Stability Oversight Council (FSOC), een samenwerkingsverband van vooraanstaande toezichthouders binnen de overheid, kunstmatige intelligentie als een “opkomende kwetsbaarheid”.
Omdat kunstmatige intelligentie fungeert als een ‘black box’ die zijn interne werking verbergt, kan het voor banken die het gebruiken lastiger zijn om de conceptuele degelijkheid van het systeem te beoordelen. Volgens een artikel van CNN wezen de FSOC-toezichthouders erop dat AI ‘vooringenomen of onnauwkeurige resultaten kan produceren en mogelijk verbergen, wat zorgen baart over eerlijke kredietverlening en andere kwesties rond consumentenbescherming’.
Zou door AI aangedreven handel in aandelen en obligaties de effectenmarkten kunnen laten instorten ? We hoeven misschien niet lang te wachten om dat te ontdekken. Voorzitter Gary Gensler van de Securities and Exchange Commission sprak in mei 2023 over ‘het potentieel van AI om een financiële crisis te veroorzaken’, aldus een artikel in US News , en noemde het ‘een potentieel systeemrisico’.
Ondertussen heeft ChatGPT onlangs een groot deel van de dag besteed aan het uitkotsen van bizarre onzin als antwoord op vragen van gebruikers en heeft het systeem vaak last van “hallucinaties”, wat inhoudt dat het systeem “dingen begint te verzinnen – dingen die niet overeenkomen met de werkelijkheid”, aldus Jevin West, hoogleraar aan de Universiteit van Washington, in een artikel van CNN waarin hij werd geciteerd. Wat gebeurt er als AI begint te hallucineren over financiële gegevens en aandelentransacties?
Dodelijke autonome wapens worden al op het slagveld ingezet. Voeg AI toe aan deze wapens, en de menselijke verantwoordelijkheid, het morele oordeel en het mededogen die nog in oorlogsvoering aanwezig zijn, zullen grotendeels verdwijnen. Moordrobots worden al getest in een reeks bloedige nieuwe conflicten wereldwijd – in Oekraïne en Rusland, Israël en Palestina, maar ook in Jemen en elders.
Het was vanaf het begin duidelijk dat AI de economische ongelijkheid zou verergeren. In januari voorspelde het IMF dat AI wereldwijd bijna 40 procent van de banen zou beïnvloeden (ongeveer 60 procent in rijke landen). De lonen zullen dalen en banen zullen verdwijnen. Dit zijn ongetwijfeld onderschattingen, aangezien de mogelijkheden van de technologie voortdurend toenemen.
Al met al zal het resultaat zijn dat mensen die van de technologie profiteren rijker worden (sommigen zelfs spectaculair rijk), terwijl de meeste anderen nog verder achterop zullen raken. Meer specifiek zullen immens rijke en machtige digitale technologiebedrijven hun maatschappelijke en politieke invloed tot ver boven de toch al absurde niveaus uitbreiden.
Er wordt wel eens beweerd dat AI zal helpen bij het oplossen van klimaatverandering door de ontwikkeling van koolstofarme technologieën te versnellen. Maar het energieverbruik van AI zou dat van veel kleinere landen al snel kunnen overtreffen. Bovendien slokken datacenters voor AI vaak veel land en water op .
AI dringt zelfs door in ons liefdesleven, zoals al voorspeld werd in de film ” Her ” uit 2013. Hoewel het internet relaties heeft veranderd door online dating, heeft AI de potentie om menselijke relaties te vervangen door intieme relaties tussen mens en machine. Replika wordt nu al op de markt gebracht als de ” AI-metgezel die om je geeft “—die gebruikers de mogelijkheid biedt om diepgaande, persoonlijke gesprekken te voeren, inclusief sexting. Er worden seksrobots ontwikkeld , ogenschijnlijk voor ouderen en mensen met een beperking, hoewel de eerste klanten rijke mannen lijken te zijn.
Persoonlijke interacties tussen mensen komen steeds minder vaak voor en stellen melden een lagere frequentie van seksuele intimiteit . Met AI zouden deze zorgwekkende trends exponentieel kunnen toenemen. Straks sta je er alleen nog maar met je machines voor tegen de rest van de wereld.
Naarmate de Amerikaanse presidentsverkiezingen dichterbij komen, dreigt de mogelijke verspreiding van een golf deepfake audio- en video-opnames de democratie van het land aan een zijden draadje te laten hangen . Heeft de kandidaat dat echt gezegd? Dat zullen we pas later weten. Maar zal de factcheck zelf ook door AI worden gegenereerd? India experimenteert met door AI gegenereerde politieke content in de aanloop naar de nationale verkiezingen, die gepland staan voor 2024, en de resultaten zijn vreemd, misleidend en subversief .
Een grondige analyse van de situatie laat zien dat AI waarschijnlijk alle negatieve trends die de natuur en de mensheid momenteel bedreigen, zal versnellen. Maar deze beschuldiging houdt nog steeds geen rekening met het uiteindelijke vermogen van AI om de mens, en misschien wel alle levende wezens, overbodig te maken.
De bedreigingen van AI zijn geen reeks gemakkelijk te verhelpen bugs. Het zijn onvermijdelijke uitingen van de inherente aard van de technologie – de verborgen interne werking en de zelfontwikkeling van de functies. En dit zijn geen triviale gevaren; het zijn existentiële gevaren.
Het feit dat sommige AI-ontwikkelaars, degenen die het meest vertrouwd zijn met de technologie, er ook de felste critici van zijn , zou ons iets moeten vertellen. Sterker nog, beleidsmakers, AI-experts en journalisten hebben een verklaring uitgegeven waarin ze waarschuwen dat “het beperken van het risico op uitsterven door AI een wereldwijde prioriteit moet zijn, naast andere maatschappelijke risico’s zoals pandemieën en een nucleaire oorlog.”
Niet pauzeren, maar stoppen.
Veel kritische opiniestukken over AI in de reguliere media pleiten voor een pauze in de ontwikkeling ervan “op een veilig niveau”. Sommige critici roepen op tot regulering van de “slechte” toepassingen van de technologie, zoals wapenonderzoek, gezichtsherkenning en desinformatie. De Europese Unie zette in december 2023 inderdaad een stap in deze richting door een voorlopig akkoord te bereiken over ‘s werelds eerste alomvattende wetgeving voor de regulering van AI .
Wanneer een nieuwe technologie wordt geïntroduceerd, is het gebruikelijk om de positieve en negatieve gevolgen ervan af te wachten voordat er regelgeving wordt ingevoerd. Maar als we wachten tot AI zich verder heeft ontwikkeld, hebben we de controle niet meer . Het kan dan onmogelijk worden om de technologie die we zelf hebben gecreëerd weer onder controle te krijgen.
Het argument voor een volledig AI-verbod vloeit voort uit de aard van de technologie zelf: de technologische evolutie ervan verloopt in een tempo dat menselijke controle en verantwoording onmogelijk maakt. Een volledig verbod is de oplossing die AI-pionier Eliezer Yudkowsky adviseerde in zijn baanbrekende opiniestuk in TIME .
“Het meest waarschijnlijke gevolg van het bouwen van een bovenmenselijk intelligente AI, onder omstandigheden die ook maar enigszins lijken op de huidige, is dat letterlijk iedereen op aarde zal sterven. Niet in de zin van ‘misschien, mogelijk, een kleine kans’, maar in de zin van ‘dat is het meest voor de hand liggende dat er zal gebeuren’.”
Yudkowsky legt vervolgens uit dat we momenteel niet in staat zijn om AI zorgzaamheid of moraliteit bij te brengen, waardoor we AI zullen krijgen die “je niet liefheeft, noch haat, en die bestaat uit atomen die ze voor iets anders kan gebruiken.”
Ter onderstreping en bevestiging van Yudkowsky’s waarschuwing, verklaarde een door het Amerikaanse ministerie van Buitenlandse Zaken gefinancierde studie, gepubliceerd op 11 maart, dat ongereguleerde AI een ” dreiging van uitstervingsgraad ” voor de mensheid vormt.
Om verder gebruik en ontwikkeling van deze technologie te stoppen, zou een wereldwijd verdrag nodig zijn – een enorme hindernis. De opstellers van het verdrag zouden de belangrijkste technologische elementen moeten identificeren die AI mogelijk maken en onderzoek en ontwikkeling op die gebieden overal ter wereld moeten verbieden.
Er zijn slechts enkele historische precedenten waarin zoiets is gebeurd. Duizend jaar geleden maakten Chinese leiders een einde aan een ontluikende industriële revolutie gebaseerd op steenkool en technologieën die op steenkool draaiden (erfelijke aristocraten vreesden dat opkomende industriëlen uiteindelijk de politieke macht zouden overnemen). Tijdens het Tokugawa-shogunaat (1603-1867) in Japan werden de meeste vuurwapens verboden, waardoor het aantal doden door vuurwapens vrijwel volledig verdween . En in de jaren tachtig kwamen wereldleiders bijeen bij de Verenigde Naties om de meeste CFK’s te verbieden om de ozonlaag van de atmosfeer te beschermen.
Een verbod op AI zou waarschijnlijk een grotere uitdaging vormen dan in elk van deze drie historische gevallen. Maar als het moet gebeuren, dan moet het nu gebeuren.
Stel dat een beweging om AI te verbieden zou slagen. In dat geval zou het onze collectieve waanideeën over het neoliberale kapitalisme wellicht doorbreken, waardoor mensen en hun regeringen eindelijk de noodzaak inzien om grenzen te stellen. Dit had al moeten gebeuren met betrekking tot de klimaatcrisis, die vereist dat we de winning van fossiele brandstoffen en het energieverbruik strikt beperken. Als de dreiging van AI, die zo acuut is, ons dwingt om onszelf grenzen op te leggen, zou dat wellicht de institutionele en intergouvernementele moed kunnen aanwakkeren die nodig is om ook andere existentiële bedreigingen aan te pakken .
