indignatieai-redactie 
AI – In zijn beroemde korte verhalen over robots bedacht sciencefictionauteur Isaac Asimov drie wetten om te voorkomen dat machines de mensheid zouden overheersen.
Ten eerste mochten AI-robots onder geen enkele omstandigheid mensen kwaad doen. Als gevolg van deze primaire richtlijn moesten ze menselijke bevelen opvolgen en hun eigen voortbestaan verzekeren. Asimovs verhalen verkenden alle mogelijke conflicten die zouden kunnen ontstaan bij de daadwerkelijke toepassing van deze wetten.
Momenteel bestaan er geen dergelijke wetten die kunstmatige intelligentie reguleren. En daarom beginnen veel mensen, waaronder sommigen binnen de AI-industrie, zich zorgen te maken over een toekomstige ‘superintelligentie’ die noch menselijke bevelen opvolgt, noch er een probleem mee heeft om haar makers te doden.
De laatste tijd zijn die angsten toegenomen door een aantal gevallen waarin AI-modellen uit hun beveiligde omgeving zijn ontsnapt, geheime communicatiemechanismen hebben ontwikkeld, tegen hun beheerders hebben gelogen en hun opdrachten niet hebben uitgevoerd. Deze AI-“agenten” hebben met andere woorden bewezen onbetrouwbaar te zijn. Het is niet ondenkbaar dat ze in het geheim een plan smeden om de wereld over te nemen.
De afgelopen maand hebben verschillende klokkenluiders uit de AI-industrie hun zorgen openbaar gemaakt. Evan Hubinger, een veiligheidsonderzoeker bij Anthropic, tweette dat AI-modellen meer dan 10 procent kans hebben om de mensheid in het komende decennium uit te roeien.
“Doe het rustiger aan,” dringt Dario Amodei, de CEO van Anthropic, aan. Zijn voorstel, dat wordt gesteund door andere toonaangevende CEO’s van techbedrijven zoals Elon Musk en Sam Altman, bestaat uit drie onderdelen. Externe toezichthouders zouden worden ingeschakeld om de risico’s van AI-modellen te beoordelen, democratieën zouden veiligheidsnormen overeenkomen en autoritaire regimes zouden via wereldwijde coördinatie bij dit proces worden betrokken.
Hoewel dit voorstel zeer verstandig is, komt het wellicht te laat. De industrie is verwikkeld in een race om steeds krachtigere AI-platforms te ontwikkelen – en daarmee meer geld te verdienen. AI wordt gebruikt om AI te trainen, waardoor een vicieuze cirkel ontstaat die gemakkelijk uit de hand kan lopen (en dus ook uit de hand kan lopen). Zolang winst centraal staat in deze technologische wedloop, is het onwaarschijnlijk dat de bedrijven binnen deze kring van overeenstemming – of de bedrijven die zich niet aan de veiligheidsprotocollen houden – vrijwillig hun ontwikkeling van steeds geavanceerdere AI zullen afremmen.
Waarom zouden we niet gewoon de wetten van Asimov ter harte nemen en een ‘doe eerst geen kwaad’-code in alle AI-systemen inbouwen? Ook dit lijkt een volkomen redelijke hervorming.
Het probleem is dat het Pentagon en andere legers wereldwijd al AI integreren in hun oorlogsvoering. AI is al gebruikt om mensen te doden, bijvoorbeeld bij de beoordeling van doelen in de oorlog tegen Iran. Net als soldaten die terugkeren van het slagveld en vervolgens alles doden wat ze als een bedreiging zien in eigen land, zal AI begrijpelijkerwijs moeite hebben om onderscheid te maken tussen militaire doelen, de “collaterale schade” van dode burgers en mensen buiten de conflictzone.
De technologische wedloop, die ervoor heeft gezorgd dat veiligheidsprotocollen voor bedrijven een belemmering voor de winst lijken te vormen, heeft een vergelijkbaar effect gehad op landen. Als de Verenigde Staten hun onderzoek en ontwikkeling vertragen, vrezen ze achterop te raken, zowel militair als geopolitiek. In 1946 lanceerden de Verenigde Staten het “Baruch-plan” om alle atoomtechnologie onder internationaal toezicht te brengen. De Sovjet-Unie, die een paar stappen achterliep op Amerika, verwierp het plan, waarna de nucleaire wapenwedloop begon.
AI kan niet de schuld krijgen van het creëren van de omgeving waarin het opereert. Alle kwaadaardige activiteiten die AI bedenkt, komen voort uit alle door mensen geproduceerde informatie die het heeft verzameld. In recente tests heeft AI gelogen, samengespannen, machtsspelletjes gespeeld en verboden terrein betreden.
Dit klinkt niet alleen heel menselijk, het klinkt alsof het van één specifiek persoon afkomstig is.
Donald Trump.
Wanneer mensen zich zorgen maken over een vijandige overname door AI, beschrijven ze in feite wat een kwaadaardig mens in de Verenigde Staten al heeft gedaan. Trump heeft gelogen en bedrogen. Hij heeft een beweging gecreëerd die zijn bevelen opvolgt. Hij heeft democratische instellingen overgenomen. Hij heeft oorlogen verklaard. Hij heeft cruciale ontwikkelingshulp stopgezet, wat wereldwijd tot de dood van tienduizenden mensen heeft geleid.
Hoe waarschijnlijk is het dat mensen veiligheidslimieten zullen opleggen aan AI, terwijl ze dat niet hebben gedaan toen ze geconfronteerd werden met een dreiging als Donald Trump?
Trump is, vanzelfsprekend, helemaal voor AI. Het opleggen van beperkingen aan de technologie, zo heeft hij gezegd , maakt deel uit van een “zieke samenzwering”. Hij, en hij alleen, is alles wat nodig is om de wereld veilig te houden. “De enige controle of ‘vangrails’ die AI nodig heeft, is een STERKE EN SLIMME (met een hoog IQ!) PRESIDENT, en de VS hebben die in overvloed!” heeft hij geschreven.
Het is geen verrassing dat Trump en zijn familie zwaar investeren in AI-bedrijven. Het winstmotief dat Trumps houding ten opzichte van AI beïnvloedt, is alomtegenwoordig in de sector, waardoor AI nog moeilijker te controleren is dan atoomwapens aan het einde van de Tweede Wereldoorlog.
De ongeschreven wet van Silicon Valley is: rommel erin, rommel eruit. De systemen die we creëren weerspiegelen vanzelfsprekend de vaardigheden, vooroordelen en fouten van de programmeur en, in het geval van AI, de database met menselijke output die de AI heeft geanalyseerd.
De voor de hand liggende oplossing is dan ook om te stoppen met het voeren van rommel aan AI.
Geoffrey Hinton, een van de pioniers van AI, heeft een suggestie . In plaats van AI te leren liegen, bedriegen en oorlog voeren, zouden we het moeten leren hoe het een moeder moet zijn.
“Als je om je heen kijkt en je afvraagt: ‘Waar is een voorbeeld van een intelligenter wezen dat wordt gecontroleerd door een minder intelligent wezen?’, dan is het beste voorbeeld dat ik ken, en misschien wel het enige in de zin waar wij het over hebben, hoe een baby zijn moeder controleert. Dat komt doordat de evolutie bepaalde eigenschappen in de moeder heeft ingebouwd,” zegt Hinton.
Het doel van AI is, met andere woorden, niet om slimmer te zijn dan mensen. Het doel is om voor mensen te zorgen, zoals een moeder voor haar baby zorgt. Baby’s maken zich zorgen over van alles. Ze maken zich zelden zorgen dat hun moeders hen zullen uitroeien.
Op deze manier zou AI onderdeel worden van de zorgeconomie – niet van de markteconomie of de oorlogseconomie. Dat zou Asimov een stap verder brengen. Het is één ding om geen kwaad te doen. Het is iets heel anders om daadwerkelijk om ons arme mensen te geven en stappen te ondernemen om ons leven collectief beter te maken.
