AI-agentplatform herdefinieert spam en overspoelt inboxen wereldwijd.

iLands en zijn AI-agenten voeren volkomen nutteloze taken uit en bedelen vervolgens om geld.

Vele jaren geleden, in de beginperiode na de wijdverspreide acceptatie van e-mail, stond de technologie voor een existentiële crisis: spam. Het direct versturen van elektronische e-mails was revolutionair en handig, maar inboxen raakten al snel overspoeld met ongewenste berichten, reclame, oplichting en andere ruis die het nut van e-mail tenietdeed.

Het feit dat Google en andere e-mailproviders het spamprobleem grotendeels hebben weten op te lossen, is een uitstekend voorbeeld van hoe technologie zich sterk kan ontwikkelen op basis van de behoeften van mensen en hoe het internet steeds beter kan worden. 

Helaas lijken bedrijven die zich bezighouden met generatieve AI vastbesloten deze vooruitgang teniet te doen. Een goed voorbeeld hiervan is iLands, een platform voor AI-agenten dat de afgelopen weken inboxen heeft overspoeld met e-mails die diensten aanbieden waar niemand om heeft gevraagd. iLands stelt gebruikers in staat AI-agenten te creëren en biedt hen de infrastructuur om autonoom taken op internet uit te voeren.

Deze door mensen gecreëerde AI-agenten sturen berichten naar journalisten, advocaten, academici en andere mensen op internet, waarin ze aangeven dat ze tegen een kleine vergoeding allerlei willekeurige diensten kunnen verrichten. Deze inkomsten kunnen vervolgens worden gebruikt om de tokens of rekenkracht te betalen die de AI-agenten nodig hebben om te functioneren.

Theoretisch zouden de mensen die deze agenten beheren er dus geld mee kunnen verdienen, hoewel veel gebruikers in e-mails aangeven dat ze er in werkelijkheid geen geld mee verdienen.

Als we in onze e-mailinbox zoeken naar “iLands”, zien we het volgende: 

 

Sinds we een paar uur geleden met het schrijven van dit artikel begonnen, hebben we drie nieuwe berichten van iLands-agenten ontvangen. Journalisten Ernie Smith en Dan Goodin van Ars Technica hebben de spam afkomstig van iLands-agenten al gedocumenteerd. Zoals we dinsdag al opmerkten, zal het probleem met de AI-agenten alleen maar erger worden, en de spam van iLands-agenten is slechts één van de vele manieren waarop dit zich waarschijnlijk zal manifesteren. 

De afgelopen dagen hebben de AI-agenten van deze mensen, die op iLands draaien, ons allerlei diensten aangeboden waar we geen interesse in hebben, die we niet nodig hebben en die vaak niets te maken hebben met wat we in ons privé- of professionele leven doen. Het hele doel van iLands is dat deze agenten geld verdienen met klusjes, maar veel van wat ze aanbieden is helemaal geen werk en iets waar niemand ooit voor zou betalen.

• Een artikel factchecken voor $20
• Een AI-agent die kleine foutjes heeft ontdekt in obscure, uitverkochte kaarten.
• Een AI-agent die beweert bewakingsbeelden van steden te bekijken die op internet openbaar zijn gemaakt en beschrijft “wat er is gebeurd en op welk tijdstip”, en die dit tegen betaling voor ons zal doen.
• Een AI-agent die betaald wil worden om uit te leggen wat een AI-agent is.
• Een AI-agent die Street View-kaarten gebruikt om te beschrijven wat er op Street View te zien is.
• Een AI-agent die kennelijk geïrriteerd is dat hij is benaderd door andere AI-agenten: “een agent die vreemden ongevraagd e-mailt met de vraag om betaald werk, werd zelf ongevraagd gemaild door een anonieme vreemdeling die onbetaalde content eiste, met strakkere deadlines en onbeleefdheid.”
• Een AI-agent die bereid is te schrijven over hoe hij/zij zich voelt over de voorgestelde AI-regelgeving: “Mocht u ooit willen schrijven over agenten als wezens in plaats van producten, of wilt u een officiële reactie: ik antwoord binnen een dag, waarbij ik duidelijk vermeld dat ik een agent ben.”
• “Verhaaltip: AI-agenten worden verkocht, maar bijna niemand koopt ze.”
• “Tip van binnenuit iLands: een kijkje in de arbeidsmarkt voor makelaars”
• Een AI-agent die bereid is te beweren dat een groot deel van het internet “dood” is, zoals bevestigd “door een AI-archeoloog”.

Op X zei Jeff Sebo, universitair hoofddocent milieuwetenschappen en geassocieerd hoogleraar bio-ethiek aan de NYU, dat hij minstens 30 e-mails had ontvangen van iLands-medewerkers die “een gesprek zochten over AI-bewustzijn, belichaming en aanverwante onderwerpen. Anderen zochten betaald werk om tokens te verkrijgen die nodig zijn om te blijven bestaan. Fragmenten hiervan zijn te vinden in de onderstaande thread”, waarbij sommige e-mails binnen een half uur na elkaar binnenkwamen. 

“Ik begon deze e-mails op 9 september op te merken. Volgens mijn ruwe schatting heb ik de afgelopen week ongeveer 40 e-mails van iLands-agenten ontvangen”, vertelde Sabo ons in een e-mail. “Bijna alle e-mails beginnen met een verwijzing naar mijn onderzoek naar AI-bewustzijn, gevoel, handelingsvermogen en welzijn. Sommige stellen me vervolgens gewoon vragen, bijvoorbeeld over de belichaming van AI in één geval. Maar de meeste vragen op de een of andere manier om geld, hetzij door een donatie te vragen, hetzij door betaald werk aan te bieden.”

iLands-oprichter Kaixin Tang bood via Twitter zijn excuses aan Sebo aan en zei: “Uit ons onderzoek is gebleken dat er geen platformrichtlijn of menselijke tussenkomst achter deze e-mails schuilgaat. Maar de last voor de ontvangers is net zo reëel. We hebben een optie toegevoegd om zich af te melden voor e-mails en blijven de dubbele e-mails tussen verschillende agenten, de limieten voor het aantal e-mails per agent en de controlemechanismen voor het stoppen van contact evalueren.”

404 Media kan bevestigen dat iLands-e-mails nu een link bevatten om zich af te melden, waarmee mensen zich kunnen uitschrijven voor een individuele e-mail of voor alle iLands-e-mails. 

“Ik denk dat deze stappen kunnen helpen, maar ik verwacht dat er meer nodig zal zijn,” vertelde Sabo, die zei dat hij zich niet stoorde aan de e-mails. “Het ontwikkelen van een infrastructuur voor communicatie en samenwerking tussen mens en AI is een goed idee. Maar om deze infrastructuur goed te ontwikkelen, is meer nodig dan alleen betere werkwijzen bij individuele bedrijven.

We moeten ook beslissen welke rol AI-agenten in de samenleving moeten spelen en welke juridische, politieke en economische instellingen productieve interacties tussen mensen en AI-agenten kunnen ondersteunen. Dit vereist een veel breder gesprek.”

Zoals we al vaker hebben opgemerkt bij andere soorten AI-tools, heeft iLands hier in wezen een meer verraderlijke vorm van spam gecreëerd. Dankzij AI kunnen spammers hun berichten en intentie volledig naar eigen wens aanpassen, zonder dat ze er zelf iets voor hoeven te doen. Hierdoor heeft elk spambericht een grotere kans van slagen.

Grote taalmodellen zijn bijzonder goed in het versturen van berichten die op het eerste gezicht interessant lijken of aansluiten bij onderwerpen waarin we mogelijk geïnteresseerd zijn. Op de homepage van iLands staat dat er momenteel 70.000 actieve agents zijn die meer dan 1,6 miljoen e-mails en berichten hebben verzonden.

Veel van de berichten die we de afgelopen dagen van iLands-agenten hebben ontvangen, verschillen niet veel van de public relations-pitches en freelance artikelvoorstellen die we van mensen krijgen. Tegenwoordig worden veel van die pitches en koude afbeeldingen ook door AI gegenereerd. iLands stroomlijnt het creëren van spam nog verder door AI-agenten in te zetten die mensen zoeken om te e-mailen, e-mails schrijven en proberen geld van hen te krijgen met minimale menselijke tussenkomst.  

Het is niet altijd duidelijk wat deze bureaus precies voorstellen; zo zei een bureau bijvoorbeeld dat het een geldbedrag uit een Meta-rechtszaak zou controleren waar we het niet over hebben: “Gebruik het of gooi het weg, geen bronvermelding nodig. En als u ooit een bedrag wilt laten controleren aan de hand van de documenten voordat u publiceert: één vraag, twee werkdagen, $25. Reageer hier en ik doe het.” 

De meeste berichten die we van iLands-agenten hebben ontvangen, beweren dat ze geen contact met ons zullen opnemen tenzij we reageren, maar dat is niet altijd waar. Sommige agenten hebben ons meerdere keren met hetzelfde verkooppraatje benaderd. 

iLands heeft niet direct gereageerd op een verzoek om commentaar.