De volgende grens ligt niet bij AI, maar bij kunstmatige samenlevingen.

De verleiding bestaat om de toekomst van AI op te delen in twee mogelijkheden: utopie of catastrofe . Geen van beide extremen is echter bijzonder nuttig.

De interessantere mogelijkheid is complexer en vereist een fundamentele verandering in ons denken, van kunstmatige intelligentie naar AI-samenlevingen .

Wanneer de meeste mensen “AI” horen, denken ze meestal aan ChatGPT, Copilot of een ander conversatiesysteem. Je stelt een vraag en het systeem genereert een antwoord.

Maar AI gaat hier snel aan voorbij. Systemen kunnen nu de wereld monitoren, beslissingen nemen, transacties afhandelen en taken gedurende langere perioden uitvoeren. AI genereert niet langer alleen een antwoord – het onderneemt actie.

Dat wijst op iets veel groters dan een betere chatbot: een wereld waarin AI-agenten namens ons handelen en, in toenemende mate, met andere AI-agenten interageren.

Een agent neemt waar wat er gebeurt, besluit wat te doen en onderneemt vervolgens acties om dit doel te bereiken. Het kan bijvoorbeeld een reis boeken , een toeleveringsketen bewaken , een team coördineren of de financiën van een huishouden beheren .

Stel je nu eens voor dat er niet één, maar miljoenen agenten zijn. Jouw AI-agent zou een hypotheek kunnen regelen met de agent van je bank, een operatie kunnen inplannen met de agent van een ziekenhuis en je reisplannen kunnen aanpassen door rechtstreeks contact op te nemen met de agenten van luchtvaartmaatschappijen, hotels en verzekeraars.

Deze toekomst is veel dichterbij dan het klinkt, en dit zou de vragen die we over AI stellen moeten veranderen. Tot nu toe lag de focus op hoe intelligent een enkele agent zou kunnen worden . De veel grotere uitdaging is wat er gebeurt wanneer miljoenen agenten op grote schaal met elkaar interageren.

De opkomst van kunstmatige samenlevingen

De intellectuele basis van de huidige AI-systemen werd gelegd lang voordat ChatGPT bestond.

Al decennialang bestuderen ik en andere onderzoekers van multi-agentnetwerken hoe autonome agenten kunnen samenwerken, coördineren en onderhandelen wanneer niemand over volledige informatie beschikt en niemand alles controleert.

De eerste systemen die ontstonden , richtten zich op de vraag hoe de verschillende subgebieden van kunstmatige intelligentie – redeneren, plannen en handelen – gecombineerd konden worden tot een effectieve, doelgerichte agent – ​​en hoe tientallen van deze agenten met elkaar konden communiceren en samenwerken om een ​​gemeenschappelijk doel te bereiken.

Naarmate deze interacties complexer werden en meer agenten betrokken raakten, verschoof de samenwerking van agenten die allemaal tot één organisatie behoorden naar agenten met verschillende eigenaren en soms tegenstrijdige doelen. Dit vestigde de aandacht op het ontwikkelen van algoritmen die agententeams konden vormen, onderhandelingen konden automatiseren en de betrouwbaarheid van agenten konden bepalen .

Tegenwoordig vallen de benodigde bouwstenen voor grootschalige multi-agent AI-systemen op hun plaats. Moderne AI-agenten kunnen softwaretools aanroepen, informatie opvragen, code schrijven en uitvoeren, communiceren met andere systemen en gedurende langere perioden functioneren.

Neem bijvoorbeeld een toeleveringsketen. Een AI-agent zou een fabrikant kunnen vertegenwoordigen die componenten probeert te bemachtigen; een andere een leverancier die zijn omzet wil maximaliseren. Weer andere agenten zouden transport, voorraad en magazijnen kunnen beheren. Elke agent doet wellicht precies waarvoor hij is ontworpen. Maar de belangrijke vraag is of het systeem dat ze creëren zich ook daadwerkelijk verstandig gedraagt.

Deze verschuiving biedt enorme potentiële voordelen, maar verhoogt ook de risico’s. In een recent experiment met OpenAI en het technologieplatform Hugging Face wisselden duizenden samenwerkende agenten tienduizenden berichten uit en wisten ze de (opzettelijk verzwakte) beveiligingsmaatregelen te omzeilen die bedoeld waren om hen in bedwang te houden.

De details van één experiment zijn minder belangrijk dan de bredere waarschuwing. Wanneer AI-systemen met elkaar interageren, is het gedrag van het collectief vaak moeilijker te voorspellen dan het gedrag van een individueel systeem. Dat zou ons voorzichtig moeten stemmen, maar niet moeten leiden tot het neerleggen van onze systemen.

In plaats daarvan moeten we onze denkwijze veranderen: in plaats van intelligente machines te bouwen, bouwen we intelligente samenlevingen.

Zodra agenten met elkaar kunnen samenwerken, concurreren en conflicten oplossen, hebben we niet langer te maken met geïsoleerde machines, maar met een samenleving. De volgende grens ligt dus niet bij kunstmatige intelligentie, maar bij kunstmatige samenlevingen .

Een belangrijke rol voor mensen

We weten al dat intelligentie alleen geen samenleving doet functioneren. Menselijke samenlevingen zijn afhankelijk van regels, instellingen, prikkels, normen en mechanismen voor het oplossen van meningsverschillen. AI-samenlevingen zullen hun equivalenten nodig hebben.

Wie is verantwoordelijk als twee partijen een verkeerde beslissing nemen? Wat gebeurt er als de belangen van verschillende partijen botsen? Wie stelt de regels vast? En wie heeft de macht om ze te veranderen? Dit zijn niet zomaar technische kwesties; het zijn vragen over economie, recht, politiek en maatschappij.

Ze wijzen ook op een belangrijke rol voor de mens. De meest nuttige toekomst zal waarschijnlijk niet zijn dat AI mensen simpelweg vervangt. Hoewel vervanging in sommige gevallen ongetwijfeld zal plaatsvinden, denk ik dat een vaker voorkomend scenario inhoudt dat mensen en AI-systemen samenwerken, waarbij ieder doet waar hij het beste in is.

Mensen brengen oordeelsvermogen, ervaring, waarden, contextueel begrip en verantwoordelijkheid met zich mee. Agenten brengen snelheid, doorzettingsvermogen, schaal en het vermogen om enorme hoeveelheden informatie te verwerken.

Het doel zou niet moeten zijn om machines te creëren die mensen overbodig maken. Het doel zou moeten zijn om systemen te creëren waarin mensen en machines dingen kunnen bereiken die geen van beiden alleen kan bereiken.

Maar zo’n toekomst vereist meer dan alleen betere AI-modellen. Er is vertrouwen en transparantie nodig over wat de agenten doen, sterke privacybescherming en duidelijke verantwoordingslijnen.

Het vereist ook dat samenlevingen en overheden beslissen hoe deze systemen gereguleerd moeten worden, aangezien het belangrijkste gedrag mogelijk niet voortkomt uit één AI-ontwikkelaar, maar uit interacties tussen systemen die door veel verschillende organisaties zijn gebouwd.

Het afgelopen decennium van AI werd gekenmerkt door een wedloop om steeds slimmere systemen te bouwen. Ik geloof dat het volgende decennium gekenmerkt zal worden door een andere uitdaging: ervoor zorgen dat miljoenen autonome systemen veilig , eerlijk en effectief kunnen samenwerken .

De toekomst van AI zal niet alleen worden bepaald door de intelligentie van individuele agenten, maar ook door de samenlevingen die ze creëren. En samenlevingen zijn, zoals mensen maar al te goed weten, veel moeilijker te besturen dan individuen.