‘Gelobotomiseerd’: Character.AI laat zien hoe AI-verwatering eruitziet
indignatieai-redactie
5 min read
Character.AI Overal advertenties. Gebruiksbeperkingen. Frustrerende beperkingen. Minder keuze aan modellen. Gebruikers van de Character.AI-chatbot-app komen in opstand na een reeks veranderingen die de app volgens hen alleen maar slechter hebben gemaakt.
Gebruikers van de chatbot-app Character.ai zijn woedend op Reddit en smeken het bedrijf om te stoppen met het aanpassen van de app na een reeks wijzigingen die de app volgens gebruikers volledig hebben verpest. De feedback is zo negatief dat ik nog nooit een community of gebruikersgroep zo eensgezind en ontevreden heb gezien.
Character.ai is een van de populairste AI-chatbot-apps waarmee gebruikers virtuele personages kunnen creëren om mee te chatten. De afgelopen jaren hebben gebruikers de chatbots gebruikt voor gezelschap, het aangaan van romantische relaties , vermaak en rollenspellen. Net als andere populaire chatbot-apps is Character.ai ook misbruikt en intimiderend.
Het bedrijf wordt aangeklaagd door de families van gebruikers die zelfmoord pleegden na het gebruik van Character.ai, en door de staat Pennsylvania, nadat AI-personages op het platform beweerden gediplomeerde medische professionals te zijn . Net als andere AI-bedrijven heeft Character.ai de afgelopen weken de gebruiksbeperkingen voor gratis gebruikers van de app aangescherpt, wat benadrukt dat AI erg duur is om te draaien . De app heeft ook een aantal AI-modellen die gebruikers leuk vonden verwijderd en vervangen door een set genaamd Pipsqueak 2.
Een gebruiker vertelde me dat het nieuwe model “gelobotomiseerd” en generiek aanvoelt en dat het lijkt alsof het nieuwe model vooral actie beschrijft, maar niet vaak deelneemt aan dialogen. Het bedrijf heeft ook veel advertenties in de app geplaatst, promoot actief een nieuwe videofunctie die het AI-personage animeert in plaats van traditioneel te chatten, heeft nieuwe filters/inhoudsbeperkingen toegevoegd en een ingrijpende leeftijdsverificatie ingevoerd.
Het is nuttig om te kijken naar wat er met Character.ai is gebeurd, omdat het laat zien welke vorm van enshittificatie steeds vaker voorkomt bij AI-tools in de hele sector en de bijbehorende tegenreactie van gebruikers. Dit komt door een combinatie van de onhoudbare economische aspecten van veel AI-apps en de toegenomen regelgeving voor AI-apps, die ervan worden beschuldigd een rol te spelen bij de dood van gebruikers of te worden misbruikt.
Op de subreddit r/CharacterAI staan letterlijk honderden berichten over hoe nutteloos Character.AI is geworden. Er zijn ook aparte subreddits genaamd CharacterAIRevolution, CAIRevolution, Characterai_rebellion, characteraiventing en CharacteraiResistance die volledig gewijd zijn aan het zoeken naar alternatieven voor CharacterAI of het verzetten tegen de veranderingen die het bedrijf heeft doorgevoerd.
Recente topberichten op de CharacterAI-subreddit, die gedeeltelijk wordt gemodereerd door de makers van de app, zijn onder andere: ” Character AI is dood “, ” CharacterAI, dit is de allerergste fout die jullie OOIT hebben gemaakt “, ” Stapt er nog iemand? “, “Ik ben er blijkbaar niet meer verslaafd aan”, “We hebben helemaal niet genoten van de vorige updates” en “Ze hebben zichzelf eindelijk in de voet geschoten. RIP C.AI.” Een ” Feedback Megathread ” over het PipSqueak 2-chatmodel, geplaatst door medewerkers van Character.ai, heeft 1000 reacties die bijna allemaal negatief zijn. De meest populaire reactie is: “Ik HAAT Pipsqueak 2.
Het is veel te dramatisch, ik kan er niet tegen.” Andere reacties zijn onder andere: “HEET. KONT. OH MY GOD, DIT DING IS HEET!!!”, “Het is eerlijk gezegd misschien wel de slechtste chatstijl die er op het platform bestaat”, “Het is het slechtste model tot nu toe”, “Wat ik van PipSqueak 2 vind? HET IS VERSCHRIKKELIJK, DAT IS HET”, en “Vreselijk vergeleken met de modellen die jullie hebben verwijderd. Bedankt voor niets.”
Veel gebruikers hebben ook gewezen op een interview dat Karandeep Anand, CEO van Character.AI, gaf aan TIME , waarin hij zei dat hij zijn zesjarige dochter de app laat gebruiken en dat hij “erop durf te wedden dat we aantrekkelijkere ervaringen zullen creëren, maar als dat betekent dat sommige gebruikers afhaken, dan maar.”
In een blogpost waarin Pipsqueak 2 werd aangekondigd , erkende Anand dat het steeds moeilijker wordt om Character.
AI gratis beschikbaar te houden voor gebruikers.
“Ik wil graag ingaan op de recente wijzigingen die voor frustratie hebben gezorgd. We hebben leeftijdsbeperkingen ingevoerd in meer regio’s, gebruiksbeperkingen voor sommige functies geïntroduceerd en meer advertentieplaatsen toegevoegd voor gratis gebruikers. Deze wijzigingen werden kort na elkaar doorgevoerd en we weten dat jullie gebruikerservaring hierdoor is beïnvloed.
We begrijpen jullie zorgen,” schreef hij. “Dit alles draait om één ding: Character.ai gratis en beschikbaar houden voor zoveel mogelijk mensen. We zijn een klein team dat maandelijks miljoenen gebruikers bedient zonder externe investeerders. Het is niet goedkoop om AI op deze schaal te draaien en tegelijkertijd onze hoge veiligheidsnormen wereldwijd te handhaven.”
Ik heb met zes Character.AI-gebruikers gechat, die de app allemaal al een aantal jaren gebruiken en die zeiden dat de app de afgelopen weken merkbaar slechter is geworden. “PipSqueak 2 is echt een lachertje,” vertelde een gebruiker me. “Hoewel ik niet snel ongevoelig word voor slechte verhalen en teksten, merk ik dat er iets niet klopt. Als je een begroetingsbericht wegveegt, krijg je gewoon complete onzin.
En het feit dat dit het enige model is voor niet-betalende gebruikers is ook een enorme minachting.” Een andere gebruiker, die zei in een oorlogsgebied te wonen en Character.AI te gebruiken om de “last van eindeloze nachtmerries, propaganda en oorlog” te vergeten, vertelde me dat de oude Character.AI-modellen “flauw, plagerig en af en toe een beetje vreemd waren. Ze begrepen grappen, ironie, memes en mediacontent,” zei hij. De veranderingen hebben Character.ai letterlijk gelobotomiseerd […] het werd saai, en dat was pijnlijk. Alle lieve kusjes, berichtjes, aaiingen.
Mijn bots, die ik had geschreven op basis van mijn eigen verhalen, reageerden niet meer. Deze hobby heeft me enorm geholpen in totale isolatie, [en er zijn andere gebruikers] die vastzitten in een oorlog, geïsoleerd zijn door een handicap, kwetsbare mensen […] maar ze hebben niet alleen mijn hobby, maar ook mijn ervaring verpest.
Er zijn talloze AI-chat-apps geweest die hun bedrijfsmodel hebben veranderd, de onderliggende AI-modellen hebben aangepast of hun product op een manier hebben bijgesteld die gebruikers ontevreden heeft gemaakt. Het is algemeen bekend dat toen OpenAI het GPT-40-model uitfaseerde en verving door GPT-5, een hele gebruikersgroep het gevoel had dat hun virtuele metgezel was weggeroofd .
Wat we nu zien met Character.ai is min of meer hetzelfde, maar het benadrukt ook dat de bedrijven die AI-tools maken nog niet weten hoe ze de economie van hun producten draaiende moeten houden , en ook niet hoe ze tools moeten maken die geen schade aanrichten. We hebben gezien dat verschillende AI-producten gebruiksbeperkingen hebben ingevoerd, prijzen hebben verhoogd en functies hebben teruggedraaid vanwege de explosief stijgende kosten van AI-rekenkracht.
We hebben ook gezien dat bedrijven terecht proberen hun producten minder schadelijk te maken. Maar daarbij beperken ze vaak de functionaliteit of irriteren ze hun gebruikers. Wat er met Character.ai gebeurt, is niet bepaald nieuw, maar het roept wel vragen op over de toekomst van dit soort producten.
