Bedrijven gebruiken Reddit om ChatGPT en Google AI Search te manipuleren.

Reddit – Peptidebedrijven hebben AI-optimalisatie toegepast door de biohackers-subreddit te spammen om ChatGPT en Google te manipuleren.

Reddit De moderators van de biohacking-subreddit zeggen dat bedrijven die peptiden en hormoonvervangende therapieën aanbieden, Reddit stiekem volspammen in een poging om hun berichten door AI-chatbots te laten scrapen. Deze strategie is erop gericht de antwoorden van chatbots systematisch te manipuleren door het bronmateriaal dat de chatbots scrapen te vervalsen – in dit geval een populaire Reddit-community. 

In een bericht van vorige week lieten de moderators van r/biohackers weten dat ze nieuwe berichten over peptiden en hormoonvervangende therapie (HRT) zouden verbieden vanwege pogingen tot manipulatie door de bedrijven die deze middelen produceren, op de markt brengen en verkopen. r/Biohackers is een al lang bestaande subreddit over het gebruik van supplementen, experimentele farmacologie en andere thema’s die verband houden met een langer leven of fitness; peptiden en HRT zijn een enorm populair onderwerp van discussie geworden op de subreddit, vooral omdat bedrijven proberen ze off-label of als grijze-marktproducten op de markt te brengen. 

“Nu AI-zoekmachines steeds vaker antwoorden van Reddit halen, gebruiken bedrijven ons voor AEO (Automatic Efficiency Optimization). Bovendien is er een explosie aan interesse in peptiden en het gebruik van AI op de subreddit. Dit alles samen zet de kwaliteit van de content zwaar onder druk”, aldus een bericht van de moderators. 

AEO staat voor AI-engine optimization en is een evolutie van zoekmachineoptimalisatie. Merken en marketingbureaus proberen content te creëren waarvan ze hopen dat die door grote taalmodellen wordt geïndexeerd. Het manipuleren van Reddit met bots , nepaccounts en betaalde accounts die merken promoten, is een kernstrategie geworden van AEO-bedrijven. Dit komt doordat Reddit een van de meest geciteerde bronnen is geworden door populaire AI-tools zoals ChatGPT en Google’s AI-zoekmachine.

Een voorbeeld hiervan is het bedrijf RedRover, dat AEO en SEO aanbiedt aan bedrijven. Op hun homepage staat: “Bereik nummer 1 in de zoekresultaten en word geciteerd door AI: AI-agenten publiceren massaal content om u te helpen hoger te scoren in Google, ChatGPT en Reddit – en zo verkeer naar uw website te leiden vanuit alle hoeken van het internet.”

“Een leger van agenten dat blogcontent en Reddit-berichten publiceert en zo op grote schaal SEO- en AEO-problemen oplost”, zo adverteert RedRover.

Peptiden omvatten een spectrum aan injecteerbare aminozuren, van GLP-1 tot een reeks samengestelde en illegale stoffen die gebruikt kunnen worden voor spiergroei en -herstel, haargroei, huidverzorging en anti-aging, en tal van andere toepassingen. Hormoonvervangende therapie (HRT) wordt ook om diverse redenen gebruikt, onder andere door transgender personen als genderbevestigende behandeling, maar ook door vrouwen in de perimenopauze of menopauze, en door mensen in de life extension- en biohacking-gemeenschappen.

Beide industrieën zijn de afgelopen jaren enorm gegroeid. De industrie bestaat uit een mix van bedrijven die op een legitieme manier proberen te opereren en minder betrouwbare bedrijven waarvan de producten mogelijk onveilig zijn. Kortom, het is een soort wildwest in de gezondheidszorg.

“We zien de opkomst van dingen zoals peptiden, verbindingen die steeds gangbaarder worden en waarvoor weinig regelgeving bestaat. We zien enorm veel potentie en mogelijkheden voor innovatie om ze klinisch te valideren,” vertelde een van de moderators van de biohackers-subreddit me tijdens een telefoongesprek.

“Maar we zien dit ook samengaan met ongelooflijk riskante manieren van verkrijgen, bijvoorbeeld tieners die berichten plaatsen over hoe ze een paar centimeter langer willen worden. En we zien ook AI-manipulatie door verkopers die deze peptiden proberen te promoten en kinderen ertoe aanzetten om ze bij hen te kopen.”

“Deze twee dingen samen zijn voor ons onhoudbaar geworden, en na zoveel verschillende strategieën te hebben geprobeerd om met de tools van Reddit te voorkomen dat dit een probleem zou worden, hebben we deze beslissing genomen”, om berichten over peptiden en hormoonvervangende therapie te beperken tot wekelijkse “megathreads”, voegden ze eraan toe.

“Ik heb gewoon het gevoel dat het dode internet, dat ene plekje op het internet dat zo menselijk was, langzaam aan het afbrokkelen is en overspoeld wordt met kunstmatige, door AI gegenereerde content. Ik vind dat ontzettend deprimerend.”

Gezien het gezondheidsaspect en het zelfexperimenterende karakter van de subreddit, gaf de moderator aan dat ze zich zorgen maakten dat een dubieus bedrijf hun product zou promoten, waarna iemand het zou gebruiken en gewond zou raken. 

“Er is een element van merken die Reddit gebruiken om consumenten te manipuleren en mensen hun producten te laten kopen, en dat roept ethische vragen op over marketing en hoe de aandachtseconomie zich ontwikkelt onder invloed van AI. Dat is een probleem op zich,” zei de moderator. “Maar voor ons specifiek is de vraag: hoe voorkomen we daadwerkelijk fysiek letsel?”

Het is ongelooflijk moeilijk geworden om manipulatie op Reddit tegen te gaan, omdat de bedrijven die dit doen steeds geavanceerder worden. De moderator zei dat er echt standaard en al lang bestaande strategieën zijn waarbij merken in de reacties hun producten aanbevelen: “Dat soort marketing heeft altijd bestaan ​​en als mensen iets nieuws willen proberen omdat het merk hen aanspreekt, prima. Zo zou marketing in mijn ogen moeten werken,” zei hij. 

“Maar wat ik veel enger vind, is dat er bedrijven zijn die de daadwerkelijke vraagpatronen die door LLM’s worden geprioriteerd, reverse-engineeren. Je ziet dan iemand een enorm clickbaitende, veelbekeken, vage vraag plaatsen zoals ‘Is alle hype rond vitamine D het eigenlijk wel waard?’, voegden ze eraan toe. “En die thread scoort dan enorm goed, omdat iedereen op biohackers een mening heeft.

Daardoor krijgt het veel interactie en wordt het door LLM’s geprioriteerd. Vervolgens sluipen merken erin en plaatsen ze hun merkvermeldingen op precies de juiste plekken in die threads, ogenschijnlijk op een organische manier. Maar niets ervan is organisch; het is allemaal een strategie van een bureau om merkvermeldingen of een bepaald verhaal binnen een LLM te prioriteren.”

De Reddit-accounts die dit doen, zijn ‘opgewarmd’ of lijken menselijk, wat betekent dat ze een postinggeschiedenis hebben die niet alleen promotioneel is. Dit maakt het veel moeilijker om ze te detecteren en te modereren. Sommige bureaus die dit doen, betalen echte mensen om promotionele content te plaatsen, of hebben communities opgezet waar mensen worden gestimuleerd om promotionele content te plaatsen. De moderator zei dat de geautomatiseerde moderatietools van Reddit nuttig zijn geweest, maar dat de vorm van promotie zo geavanceerd is geworden dat je het meteen herkent als je het ziet. 

“Het draait nu grotendeels om patroonherkenning,” zeiden ze. “Je weet eigenlijk gewoon waar je op moet letten. Maar het probleem is dat je mensen die het niet kwaadwillig doen, niet wilt straffen. Daarom denk ik dat het risico op overmatige moderatie heel reëel is.”

Een woordvoerder van Reddit vertelde aan 404 Media dat het bedrijf constant werkt aan nieuwe tools om moderators te helpen manipulatie op te sporen: “Onze interne veiligheidsteams maken gebruik van menselijke beoordeling en geavanceerde geautomatiseerde tools om deze content op grote schaal te detecteren en te verwijderen, en we hebben hier al meer dan twintig jaar ervaring mee”, aldus de woordvoerder. “Daarnaast bieden we moderators ook geautomatiseerde tools die gebruikers kunnen detecteren en schorsen die mogelijk spammers zijn.”