indignatieai-redactie 
Niemand is voorbereid op de vloedgolf van AI-agenten. Mark Zuckerberg wil dat alles een meedogenloze, huurlingachtige AI-assistent heeft. Wat gebeurt er als we die krijgen?
AI- In september begonnen kleine bedrijven in het hele land vreemde telefoontjes te ontvangen. “Hallo, met [Naam],” begonnen ze, waarna ze de ontvanger lieten weten dat ze namens iemand anders belden. “Ik zal dit gesprek transcriberen,” zeiden ze, om vervolgens direct over te gaan tot een verzoek: “Ik wil graag een offerte voor de installatie van drie bidets.” Of: “Ik wil graag een karaokekamer reserveren.”
Of: “Ik wil graag een taart bestellen om vandaag af te halen.” Sommige bedrijven gingen gewoon door, stelden vervolgvragen over de taart, kregen antwoorden en registreerden de bestelling. Anderen waren terughoudender. “Bent u een AI?” vroeg een medewerker van een karaokebar in Seattle. “Ik heb een echt persoon nodig.” Toen hem werd gevraagd of hij kon helpen met de “door de klant geleverde” bidetklus, antwoordde een loodgieter uit Colorado met een eigen vraag, die automatisch werd getranscribeerd , min of meer: ”Kunt u mijn piemel weken?”
De mysterieuze telefoontjes kwamen binnen via Muse, een AI-assistent die Meta vorige maand lanceerde en die volgens het bedrijf “alles regelt” – inclusief online winkelen, vliegtickets boeken, reserveringen maken, e-mails beheren en, voor sommige gebruikers, telefonisch boeken. Hoewel interne documenten die naar 404 Media zijn gelekt erop wijzen dat sommige van de betreffende telefoontjes mogelijk gezamenlijke acties van AI en mens waren – waarbij een callcentermedewerker een taak van een AI-agent overnam en deze vervolgens weer terugstuurde – maakte dat vanuit het perspectief van de ontvangers niet uit. Plotseling spraken ze niet meer rechtstreeks met hun klanten.
Vroege gebruikers van X delen hun ervaringen met hun AI- of AI-achtige directieassistenten. “Het is echt gaaf als het werkt,” schreef een AI-YouTuber. “De helft van de bedrijven hangt de telefoon op als mijn assistent belt.”
Ik wilde graag van de andere kant horen hoe dit vreemde nieuwe fenomeen zich had ontwikkeld. De loodgieter uit Colorado lachte en hing opnieuw op. De vrouw in de karaokebar was geduldiger, maar klonk verward: Was ik een AI? Verkocht ik AI? Kon ze met een echt persoon spreken? Nee en nee, zei ik, en ja: ik was een mens die aan het bellen was en wilde horen hoe zij het had ervaren om door bots gebeld te worden. (Nadat het haar niet was gelukt een kamer te boeken via Muse, had de klant een andere AI-oplossing ingeschakeld en beweerde dat ze nu wel contact had gekregen.) “Ah,” zei ze. “Oké. We vinden het niet leuk als AI ons restaurant belt. We hebben er een hekel aan.” Einde gesprek.
In die delen van de economie waar eigenaren van kleine bedrijven gewend zijn telefoontjes of e-mails van potentiële klanten te beantwoorden, prijzen af te spreken en vervolgens diensten te verlenen, voelen deze interacties nieuw, vreemd en een beetje asociaal aan. Als het aan de techindustrie ligt, zullen ze ook veel gebruikelijker worden.
Muse, dat miljoenen keren is gedownload, werd uitgebracht nadat Instinct, een op uitnodiging toegankelijke ‘persoonlijke assistent’ die ‘getraind is om een telefoon en een computer te gebruiken’, een sensatie in de Bay Area werd met een waarde van 10 miljard dollar, en een paar weken voor OpenAI’s Dots, dat het bedrijf ‘altijd actieve agenten noemt die alles aankunnen’. Hoewel het boeken van een loodgieter via een agent een uitzonderlijk geval is, hebben bedrijven en diensten die meer online zijn – restaurants in grote steden, concertzalen en recreatiecentra in tech-hubs – al jaren te maken met meer primitieve bots en bereiden ze zich voor op de komende golf.
Het idee is simpel en vertrouwd : iedereen krijgt een onvermoeibare geautomatiseerde assistent die voor hem of haar werkt. Technologiebedrijven investeren honderden miljarden dollars om te kijken of ze het deze keer wel voor elkaar krijgen. Binnenkort zullen miljoenen, zo niet miljarden, van deze assistenten online komen, waar ze – in theorie althans – instructies opvolgen: cursors bewegen, knoppen indrukken, verzoeken typen, elke mogelijke menselijke interface testen op een voordeel, en af en toe de telefoon oppakken om te vragen: “Wat kunt u voor ons doen?”
Lang voordat Muse mensen begon te bellen, waren ongewenste ontmoetingen met AI al routine geworden. Techbedrijven vulden hun interfaces met chatbots en AI-functies; er is nauwelijks nog een tekstveld over dat zichzelf niet aanbiedt, en productiviteitsapps staan vol met magische knoppen en glinsterende pictogrammen.
Waar we vooral aan gewend zijn geraakt, is de rommel : de eindeloze, door AI gegenereerde content die sociale media-feeds verstopt, muziekstreamingsites en de Kindle Store overspoelt, commentaarsecties op het web vult, vacatureportalen en openbare sollicitatieformulieren overweldigt en de esthetiek van de fysieke wereld begint te veranderen.
De komst van oneindig veel gegenereerde afbeeldingen en tekst verraste veel internetsystemen en liet er veel kapot achter. Als dit alles een voorproefje is van hoe het eruit zou kunnen zien in een wereld waarin Muse al je klantenservicegesprekken voert, is het geen bepaald inspirerend beeld.
Eerder dit jaar analyseerde een team van onderzoekers 84 vermoedelijke, door AI veroorzaakte pieken in het gebruik van online overheidsdiensten – zoals verzoeken om openbaarheid van informatie, openbare inspraakprocedures, aanmeldingen voor uitkeringen en beroepsprocedures tegen boetes – wereldwijd.
Ze brachten de risico’s in kaart die geavanceerdere AI in de toekomst met zich meebrengt. Ze bedachten een term voor dit opkomende fenomeen: agentische overstroming. Dit is wat er gebeurt “wanneer wrijvingen die feitelijk snelheidsbeperkingen vormden, verdwijnen”, aldus hoofdonderzoeker Chris Schmitz in een interview.
In gevallen waarin administratieve lasten mensen belemmeren om toegang te krijgen tot overheidsdiensten, of waar mensen zich er überhaupt niet van bewust zijn, “kan AI enorm veel voordelen bieden”, aldus Schmitz. Maar in situaties waarin geautomatiseerde inzendingen bijvoorbeeld een openbaar inspraakkanaal kunnen overbelasten, kan het gebruik van AI snel leiden tot een “tragedie van de gemeenschappelijke bronnen”.
Vóór de lancering van Muse, toen dit onderzoek plaatsvond, zorgden AI-inzendingen en meer primitieve, op agenten gebaseerde tools al voor problemen. Overheden hebben twee uiteenlopende reacties ontwikkeld. De onderzoekers schreven dat de ene reactie bestond uit het vergroten van de capaciteit om aan de nieuwe vraag te voldoen, door meer mensen aan te nemen of zelf AI in te zetten. De andere reactie was minder bemoedigend: het creëren van meer frictie om de vraag opnieuw te onderdrukken. “Mijn grootste zorg”, zei Schmitz, “is dat als overheden het echt willen, het inbouwen van frictie goedkoop is, een precedent heeft en op korte termijn zeer aantrekkelijk zal zijn.”
Een paar weken nadat Schmitz’ artikel was gepubliceerd, bracht Meta Muse uit. Een van de voorgestelde toepassingen, die aan iedereen die de app downloadde werd getoond, was om de app naar websites voor onopgeëiste eigendommen van de staat te sturen. Daar zou de app een eigen browser openen, klikken, scrollen en de gebruikersgegevens invoeren. Mijn eerste poging mislukte toen de website van het kantoor van de staatscontroller van New York Muse afwees omdat het een bot zou zijn. De volgende poging lukte wel, met behulp van mijn handmatig bestuurde muiscursor.
De medewerker genereerde vervolgens een lijst met drie vorderingen en bood aan deze direct in te dienen. De gemakkelijkste weg voor mij als gebruiker zou zijn geweest om gewoon akkoord te gaan. Toen ik echter om meer details vroeg, kwam Muse met een update. Een van de vorderingen, een klein cheque van een mediabedrijf die Muse ten onrechte als duizenden dollars waard had gerapporteerd, leek wel degelijk van mij te zijn. De andere twee waren duidelijk van andere personen.
Ik diende de echte vordering handmatig in; Muse was klaar om alle drie in te dienen en de afwijzing ervan aan de staat New York over te laten. En waarom zou de staat dat niet doen? Muse heeft alle tijd en rekenkracht van de wereld. Wat maakt een paar extra formulieren voor een van ’s werelds grootste datacenters nou uit?
Sommige gebruikers van Muse en Instinct vertellen dat ze bevrijd zijn van sleur en routinewerk dankzij een virtuele assistent die eindelijk dingen kan doen zoals een mens, terwijl bedrijven suggereren dat agentische logica zich zelfs tot in de chat kan uitstrekken:
Daar zit wel iets in – computers werken tegenwoordig echt anders en kunnen taken uitvoeren die vroeger een menselijke tussenkomst (of op zijn minst een cursor) vereisten.
Maar naast het verleggen van de grenzen van automatisering, maaien de huidige, door agents ondersteunde power users ook kwetsbare en nietsvermoedende doelwitten neer – websites, interfaces, diensten en mensen die nog niet hebben besloten hoe, of ze überhaupt, willen reageren op de vervanging van klanten, cliënten en zelfs vrienden door agents – met de voordelen die het als eerste inzetten ervan met zich meebrengt. Als iedereen eenmaal, zoals Mark Zuckerberg het beschrijft, een “uitzonderlijk capabele persoonlijke agent” heeft, heeft dan nog iemand er nog een?
Overheidsportalen, fysieke winkels, kleine aannemers en zelfs tandartsverzekeraars hebben één ding gemeen: ze bevinden zich niet in het epicentrum van de AI-boom. Ze hebben er niet om gevraagd, zijn er niet over geraadpleegd en hoeven zich over het algemeen nog geen zorgen te maken over wat het binnenkort zou kunnen betekenen voor hun manier van werken (of wat het hun werk zou kunnen belemmeren).
Dichter bij de kern van AI veranderen de dingen sneller. Birju Kadakia, CEO van Rec, een start-up die lokale sport- en recreatievoorzieningen beheert voor gemeenten in het hele land, zegt dat hij in San Francisco al vroege tekenen van een golf ziet. “In onze boekingsprocessen zien we een lichte toename van verkeer van agenten”, zegt hij. Dit verkeer is er niet alleen voor onderzoek – LLM’s scannen al een paar jaar massaal de recreatiepagina’s van de stad – maar ook om transacties af te ronden.
Voor zover dit meetbaar is, zegt Kadakia, vertegenwoordigt het nog steeds een klein percentage van het verkeer, zelfs voor activiteiten die bijzonder gevoelig zijn voor de meest AI-georiënteerde bevolkingsgroep ter wereld. (“We zien dit het eerst gebeuren bij ons publiek in San Francisco met tennis en pickleball,” zei hij.) Maar de werkelijke aantallen liggen waarschijnlijk hoger. “Er zijn een heleboel agenten die we nu nog niet kunnen detecteren,” zei hij. “We zien agenten die een browser gebruiken net zoals een mens dat zou doen.”
Na restaurantplatforms zoals Resy behoren systemen zoals Rec waarschijnlijk tot de meest door AI onderzochte diensten op internet. “Boekingsplatforms gedragen zich bijna als een verkeersagent”, aldus Kadakia. Rec denkt na over een toekomst waarin, zeg maar, “50 procent van de boekingen via een agent verloopt”, zei hij. Hij heeft een aantal ideeën.
Agenten zouden gekoppeld moeten zijn aan één menselijke identiteit, suggereerde Kadakia, misschien met een soort agent-“paspoort” om de overvloed aan individuele agenten te minimaliseren, hoewel de branche het er nog niet over eens is hoe zo’n systeem eruit zou moeten zien. Wanneer populaire boekingen op een specifiek tijdstip vrijkomen, zoals in het geval van de beruchte, door robots gedomineerde tennisreserveringen om 8 uur ’s ochtends in San Francisco, zouden zwermen assistent-agenten in plaats daarvan in een willekeurige loterij kunnen worden geplaatst, waarbij binnen een tijdsbestek van drie minuten een lot wordt getrokken.
Misschien zou Rec zijn eigen agenten kunnen inzetten om andere faciliteiten in de stad aan te bevelen, zei hij, waardoor mensen worden weggeleid van overbelaste naar onderbenutte locaties; Daarnaast opperde hij dat de dynamiek tussen agenten onderling zou kunnen veranderen in een samenwerkingsverband, waarbij agenten onderling partners matchen en afspraken maken. “Het is echt gaaf om na te denken over de coördinatie tussen agenten,” zei Kadakia.
De oprichters van Spot, een restaurantreserveringsservice op uitnodiging die via platforms zoals Resy en OpenTable zoekt naar en reserveringen maakt, en die vorige maand voor veel ophef zorgde , beargumenteerden een vergelijkbaar punt vanuit een ander perspectief. “New York werd al overspoeld door AI-bots”, vertelde medeoprichter Andreas Larsen me. Agressieve AI-agenten zouden de situatie op een positieve manier kunnen beïnvloeden door boekingsplatforms en restaurants te dwingen zich aan te passen, aldus Larsen.
Ze zouden ook ruimte kunnen creëren voor een service zoals Spot om verder te gaan dan alleen reserveringen binnenhalen en uit te groeien tot een “veelzijdige restaurantconcierge”, die niet alleen reserveringen maakt, maar ook restaurants ontdekt en aanbeveelt, en zo een nieuwe categorie bedrijven bovenop of tussen de bestaande bedrijven plaatst.
Als je je ogen een beetje dichtknijpt, zie je het misschien ooit: agenten die elkaar de hand schudden, de grondstoffen van de wereld – en tafels bij Semma – verdelen met de macht van genereuze superintelligentie. Of niet. Spot, net als Meta, ziet geen reden om zich in te houden. “We dachten: ‘Oké, binnenkort heeft iedereen AI en zijn eigen reserveringsbot'”, zei Larsen. “‘Laten we iedereen er gewoon een geven en kijken wat er gebeurt.'”
Tot nu toe is de komst van AI, buiten de techindustrie – en zelfs daarbinnen – vaker gezien als een bedreiging, behandeld als een noodsituatie die moet worden aangepakt in plaats van een kans om dingen opnieuw op te bouwen of te heroverwegen. Met andere woorden, als een overstroming.
Vandaag de dag kan Muse contact opnemen met een verzekeringsmaatschappij, je gegevens doorgeven, in de wacht staan en je doorverbinden wanneer het tijd is om met een echt persoon te praten, zoals Eli Tan in de New York Times schreef ; morgen zou hetzelfde bedrijf dat al die tijd en geld heeft geïnvesteerd in het bouwen van een miserabele machine die alleen maar telefoontjes afhandelt, kunnen besluiten dat het niet degene wil zijn die roept: “Mens, mens, ik moet met een mens spreken!”
Er zijn al bedrijven die oplossingen voor dit probleem verkopen. Sommige beweren AI-oproepen te kunnen detecteren en vervolgens “nuttige automatisering door te laten”, “verificatie te vereisen” of “de capaciteit van [menselijke] agenten te beschermen”; anderen spreken eufemistisch over “agent concierges” die inkomend AI-verkeer kunnen onderscheppen en het “binnen de juiste beperkingen” kunnen laten doorgaan. Sommige van de barrières die AI momenteel kan overwinnen, zijn er niet per ongeluk. Ze zijn er bewust ingebouwd of met een doel ontworpen, en kunnen opnieuw worden opgeworpen.
