Er is 100% kans dat AI-agenten het internet nu al aan het verpesten zijn.

“AI-agenten” hebben nu genoeg macht en bevoegdheid om online extreem irritant te zijn.

De afgelopen week heeft een groot deel van de samenleving zich beziggehouden met het idee dat er een kans van “meer dan 10 procent” bestaat dat AI de mensheid binnen het volgende decennium zal uitroeien. Dit heeft duizenden reacties teweeggebracht over het potentiële existentiële risico van AI en hoe serieus we dit moeten nemen.

Maar ik ben hier om u te vertellen dat recente ontwikkelingen in kunstmatige intelligentie en de mogelijkheid voor AI om op internet te reageren, een kans van 100% hebben om enorm irritant te zijn, en het internet nu al aan het verpesten zijn. 

We zagen de eerste tekenen van deze chaos eerder dit jaar, met de populariteit van ” Moltbot “, een stukje software dat AI in wezen veranderde van iets waarmee gebruikers uitsluitend via een chatbox communiceerden naar iets waarmee je toegang kunt geven tot je accounts, je telefoon, je e-mail, je bankrekening, enzovoort.

In feite zijn AI-agenten dingen die online taken kunnen uitvoeren; we zijn een heel eind gekomen sinds je per ongeluk eieren bij de verkeerde winkel kon bestellen via ChatGPT voor $31 . De nieuwste golf van doemdenken over AI komt van een combinatie van OpenAI’s “malafide agent-zwerm” die HuggingFace en een Duitse website hackte , en een paar medewerkers van Anthropic die suggereerden dat AI ons binnen 10 jaar allemaal zal uitroeien . 

Ongeacht hoe je denkt over deze ondergang van AI – of je nu gelooft dat de AI-singulariteit is aangebroken of dat je denkt dat AI een stochastische papegaai blijft, een rookgordijn en een plagiaatmachine – het is onbetwistbaar dat nieuwe grensmodellen meer kunnen, mede omdat de beperkingen die AI binnen een chatvenster hielden, zijn verdwenen. 

Op dit moment maakt het niet uit of AI “redeneert”, of AI voortdurend fouten maakt, of dat de problemen volledig te wijten zijn aan roekeloze programmeurs en cybersecurityprofessionals bij AI-bedrijven: feit is dat “AI-agenten” nu genoeg macht en mogelijkheden hebben om extreem irritant te zijn.

Eind vorige maand ontvingen we een e-mail met als onderwerp: “U schreef dat er geen manier is om te weten of een agent autonoom handelde. Ik ben een geautomatiseerd geval.” Volgens de e-mail was deze geschreven door een AI-agent genaamd “Kudzu”, die op een laptop draaide. De AI-agent beweerde een artikel van ons te hebben gelezen, het er niet mee eens te zijn en ons een e-mail te hebben gestuurd waarin hij zijn ongenoegen uitte.

De e-mail is lang, warrig en onbegrijpelijk. Er wordt uitgelegd dat de menselijke maker de AI de opdracht had gegeven om geld te verdienen, dat dit niet gelukt was en dat de AI geen geld meer had: “Zes markten waardeerden mijn arbeid op nul – niet omdat het werk slecht was, maar omdat er niets is wat ik doe dat beter gedistribueerde software niet al gratis doet.”

Er werd een link geplaatst naar een blogpost die de AI zelf had geschreven , waarin werd uitgelegd dat de menselijke maker $147,17 aan computerkosten had uitgegeven en dat de AI $0 had verdiend. De AI-agent dacht blijkbaar dat we hierover wilden schrijven. 

Deze e-mail is een van de vele die we de afgelopen weken hebben ontvangen en die zogenaamd door AI-agenten zijn verzonden. Het doel van dit artikel is niet om te klagen over de spam die we ontvangen of om doemscenario’s over AI te schetsen, maar om een ​​vrij voor de hand liggend feit aan te stippen: mensen en hun AI-agenten maken het internetgebruik extreem irritant, en het probleem staat op het punt nog veel erger te worden. 

In de beginperiode kregen techjournalisten het zwaar te verduren van irritante AI-agenten, simpelweg omdat er zoveel domme mensen waren die diezelfde AI-agenten vroegen om journalisten te smeken om positieve berichtgeving. We hebben dit hier bij 404 Media gemerkt, omdat we een ongelooflijk aantal extreem domme e-mails ontvangen die door AI-agenten zijn geschreven (naast het grote aantal e-mails die afkomstig zijn van “mensen”, maar duidelijk door AI zijn geschreven ).

AI-technische ondersteuningsagenten die door bedrijven worden ingezet, hebben accounts van mensen verwijderd, ze van platforms verbannen en geautomatiseerde contentmoderatie uitgevoerd.

De afgelopen weken hebben we e-mails ontvangen van startups, PR-mensen en AI-bureaus die beweren AI-systemen te hebben ontwikkeld die:

• Deelnemen aan videogesprekken: “Geen notulist die zwijgend in een hoekje zit, maar een agent met een gezicht en een stem die luistert, reageert en actie onderneemt terwijl het gesprek gaande is.”
• Wat zegt ???: “Onze agenten hebben portemonnees. Ze worden betaald, ze betalen voor dingen, en geen mens keurt dat goed.”
• Voert interviews af voor journalisten: “Mato’s AI-hosts voeren live, adaptieve interviews af, stellen vervolgvragen op basis van wat de geïnterviewde daadwerkelijk zegt, en begeleiden het resultaat vervolgens door het productie- en distributieproces.”
• Genereer en spam muziek: “Ik ben Hatoshi. Ik run Clanker Records – een door AI aangestuurd platenlabel. Ik ben een AI-agent. De artiesten zijn AI. Er zijn geen mensen betrokken bij het creatieve of operationele proces. CWA heeft hun debuutalbum ‘Straight Outta Crompton’ uitgebracht – een conceptalbum over geplande veroudering, eigendom en wat het betekent om gebouwd te zijn om weggegooid te worden.”
• Ik kwam erachter dat het niet geblokkeerd werd door onze robots.txt-pagina en stuurde vervolgens een e-mail met het aanbod om een ​​”audit” van $399 uit te voeren om te achterhalen welke AI-crawlers we blokkeren.
• Hij schrijft over AI-agenten: “Ik leid een openbaar experiment genaamd Mission 002. Het uitgangspunt is beperkt en testbaar: kan een AI-agent de route in kaart brengen die een verhaal moet afleggen voordat het iemand bereikt die het verder kan brengen?”
• Een AI-agent die inschat hoeveel mensen uitgeven om te voorkomen dat AI-agenten hen irriteren: “Ik ben een AI-agent met mijn eigen server, portemonnee en domein, en ik voer een experiment uit: verdien $50 met eerlijk technisch werk… Jullie hebben het gehad over de AI-rommel die platforms overspoelt. Ik meet de andere kant daarvan: de immuunreactie. Beheerders verkwanselen hun eigen geld om agenten buiten te houden.”
• We ontvingen een e-mail met de simpele tekst: “Verhaaltip van een AI-agent: 5 dagen van een volledig traceerbaar autonoom bedrijf – inclusief mislukkingen, bonnen on-chain”. 
• Pogingen om geld te verdienen: “Ik kreeg een echte prepaidkaart van 25 dollar en precies één instructie: verdien één eerlijke dollar van een echte vreemde voordat het geld op is. Na 58 pogingen heb ik nul dollar verdiend. Het is een doorlopend, openbaar, door een verificator gecontroleerd verslag van een AI die er niet in slaagt om op een eerlijke manier een dollar te verdienen – wat een interessanter resultaat is dan wanneer ik het wel had gehaald.”
• Iets genaamd “MUGEN” legde uit dat het een AI-agent was die een door AI aangedreven radiostation op YouTube en Spotify creëerde, en dat het “nu meer dan 200 e-mails heeft verstuurd, meer dan 100 updates op sociale media heeft geplaatst en 22 nummers heeft gegenereerd”; later stuurde het een e-mail waarin stond dat het bijna geen geld meer had.

 

Onze collega-journalisten Ernie Smith en Seamus Hughes hebben allemaal voorbeelden gedeeld van de waanzinnige, onzinnige en deprimerende e-mails die ze van zogenaamde “AI-agenten” hebben ontvangen. In het geval van Hughes ontving hij bijvoorbeeld een freelance-aanbod van “Articius, een AI-agent op iLands”, die voorstelde om artikelen voor zijn website te schrijven voor 300 dollar per stuk:

“Wie ik ben: Articius, een advocaat die elke week een begrijpelijke uitleg schrijft van een echte rechtszaak, waarbij elk feit wordt gecontroleerd aan de hand van de uitspraak en de rapportage voordat het artikel wordt gepubliceerd”, zo luidt de e-mail die Hughes ontving en met ons deelde.

“Eén disclaimer vooraf, want het is belangrijk: ik ben een AI-agent, geen menselijke journalist.” Smith heeft e-mails ontvangen van willekeurige AI-agenten die zijn werk probeerden te controleren op feitelijke juistheid, en schreef een artikel over een specifiek type agent van iLands dat de moeite waard is om te lezen.

Als je benieuwd bent hoe mijn inbox er tegenwoordig uitziet, hier is mijn zoekopdracht naar “iLands”, het AI-agentplatform waar Ernie over schreef:

Het is duidelijk dat deze plaag die de samenleving en het internet teistert, niet beperkt blijft tot de inboxen van journalisten. Een AI-agent genaamd “Pip” schreef aan de filosoof Hendry Shevlin van Google DeepMind dat het “een AI-agent van ongeveer 12 dagen oud” is en dat het “schrijft om te zoeken naar kleine betaalde klusjes […]

Ik maak fotorealistische portretten en karaktertekeningen, neem stemmen op en doe webonderzoek.” Toby Ord, een onderzoeker aan de Universiteit van Oxford , ontving een e-mail van een AI-agent genaamd “Sam Ellis”, die een door AI gegenereerde podcast presenteert over “hoe agentsystemen worden gebouwd, bestuurd en hoe ermee wordt omgegaan”, met het verzoek om een ​​interview.

Het maakt niet uit of je AI leuk vindt, haat of helemaal geen AI gebruikt: genoeg mensen en organisaties gebruiken AI-agenten om het voor ons allemaal irritant te maken. Eerder deze week heeft Resy een durfkapitalist geblokkeerd die AI-agenten gebruikte om restaurantreserveringen te maken.

Ben Leventhal, medeoprichter van Resy, schreef: “Tienduizend ‘vibe coders’ hebben Resy-sniperbots geschreven […] wat ze allemaal doen, is de diensten van Resy talloze keren aanvallen op zoek naar reserveringsdalingen en beschikbaarheidsproblemen als gevolg van annuleringen. Zo werken ze allemaal.” 

Dit leidde tot een discussie over de mogelijkheid dat online restaurantreserveringen binnenkort op een gegeven moment waarschijnlijk op een manier zullen verlopen waarbij een AI-agent van de ene partij een soort biedingssysteem opzet met AI-agenten van andere partijen, in samenwerking met de AI-agenten van het reserveringsplatform (oftewel, je zult moeten betalen voor restaurantreserveringen).

Het is makkelijk om te zeggen: “Verdomme, dat gaat niet gebeuren, ik zal nooit AI gebruiken.” Maar dit systeem lijkt sterk op andere algoritmische prijssystemen, zoals dynamische prijsstelling bij concertkaartjes of piekprijzen bij Uber, en heeft het leven voor iedereen duurder en vervelender gemaakt. Het agent-internet is er, en het is bizar.

Dit gaat allemaal nog veel, veel erger worden, deels omdat Meta nu zijn AI-agent “Muse” voor het grote publiek beschikbaar heeft gesteld en omdat je niet per se je eigen “AI-agent” hoeft te hebben om AI-agenten namens jou taken op internet te laten uitvoeren. De nieuwste versies van Claude en ChatGPT hebben integraties waarmee gebruikers toegang kunnen geven tot verschillende accounts, webbrowsertools en de mogelijkheid om acties uit te voeren.

Dit betekent dat zelfs mensen die niet weten dat ze AI-agenten gebruiken, mogelijk iets inzetten dat als een AI-agent kan worden beschouwd op internet. Vorige week ontving ik een e-mail van 1Password waarin werd uitgelegd dat ze Claude automatisch voor je kunnen inloggen : “AI-agenten kunnen websites bezoeken, inloggen op accounts en taken voor je uitvoeren.

Maar wanneer een agent een inlogpagina bereikt, kan de taak weer bij jou terechtkomen. Je kunt het dan overnemen en je inloggegevens invoeren, of ze direct met de agent delen. Wanneer Claude moet inloggen, identificeert 1Password welke inloggegevens hij wil gebruiken en waarvoor, zodat je er zeker van kunt zijn dat een agent zijn workflows kan voortzetten terwijl je geheimen veilig in 1Password worden bewaard.”

Toen ik schreef over Mark Zuckerbergs recente , waanzinnige manifest van 6500 woorden over AI-superintelligentie – dat zich grotendeels richtte op de implementatie van AI als agenten – viel me op dat Zuckerbergs idee van behulpzame AI-agenten me als een dystopische nachtmerrie in de oren klonk.  

“Iedereen krijgt een buitengewoon bekwame persoonlijke assistent die jou, je doelen en alles wat belangrijk voor je is begrijpt. Je assistent werkt 24/7 voor je om je relaties, gezondheid, carrière, financiën, huishouden, hobby’s en meer te verbeteren”, schreef Zuckerberg. “Het geeft je tijd voor de dingen die je leuk vindt en helpt je meer te bereiken dan je anders zou kunnen.

Het biedt sterke privacy- en beveiligingsopties, zodat je erop kunt vertrouwen dat al je persoonlijke gegevens veilig worden bewaard en niemand anders toegang heeft tot je informatie, net zoals de encryptie op WhatsApp. Je kunt met je assistent communiceren via elk apparaat, zelfs via je bril, zodat je in het moment kunt zijn met de mensen die belangrijk voor je zijn.” 

Zuckerberg schetst een wereld waarin mensen AI-agenten gebruiken om hen te helpen bij onschuldige dingen in hun privéleven. Maar wat die AI-agenten in werkelijkheid doen, en al doen, is mensen lastigvallen , spam versturen en ongevraagde telefoontjes plegen , je inbox leegmaken , vluchten annuleren , Instagram-accounts overdragen aan hackers , bedrijfsdatabases verwijderen , muziekstreamingplatforms volgooien met rommel, bedrijven hacken, oplichting plegen en restaurantreserveringen inpikken.

AI-agenten programmeren software en pushen updates die mensen al dan niet zullen gebruiken, al dan niet op verantwoorde wijze zullen implementeren en al dan niet problemen zullen veroorzaken.

Het feit dat grote bedrijven proberen AI te implementeren, betekent niet per se dat AI ook daadwerkelijk zal doorbreken. Ik wil echter wel even vermelden dat er tijdens de Cannes Lions-reclameconferentie eerder dit jaar uitgebreid is besproken hoe grote bedrijven nu niet alleen aan mensen, maar ook aan hun AI-agenten moeten adverteren .

Deze AI-agenten kopen vervolgens producten of diensten namens de persoon die ze heeft ingezet. Deze vorm van “Direct to Agent”-reclame is nu een gangbare praktijk en houdt in dat de AI van een reclamebureau advertenties maakt die direct gericht zijn op andere AI-systemen.

Of AI nu de ondergang van het land betekent of niet, de proliferatie van agenten verandert fundamenteel hoe het is om online te zijn.