indignatieai-redactie 
Wil je terugvechten tegen chatbots? Begin dan met je vrienden.
Kunstmatige intimiteit met een chatbot schaadt ons op manieren die we nog niet volledig begrijpen. Een professor van MIT denkt te weten hoe dit te bestrijden.
In de vier jaar sinds de doorbraak van ChatGPT zijn generatieve tekstbots een onontkoombare, ongemakkelijke aanwezigheid geworden in onze meest intieme relaties – vriendschappen, familiebanden, romantische vooruitzichten. Kinderen zoeken troost in grote taalmodellen om de sociale druk van het echte leven te verlichten, maar voelen zich uiteindelijk alleen maar meer geïsoleerd . Volwassenen raken zo gehecht aan hun favoriete chatbot dat hun partner overweegt om in te grijpen of de relatie volledig te beëindigen . ” AI-psychose ” is een steeds vaker voorkomende aandoening.
En ja, mensen zoeken zelfs seksueel genot in deze dingen . Sociale netwerken en datingapps moedigen dergelijke emotionele investeringen alleen maar aan, of het nu is door namens jou met anderen te praten of door eindeloze mogelijkheden te bieden voor gratis, aanpasbare virtuele avatars die precies zo “spreken” als jij wilt.
Sinds de jaren tachtig waarschuwt psychologe en MIT-professor Sherry Turkle dat moderne technologie ons vermogen om in de echte wereld te leven en empathie voor medemensen te voelen, ondermijnt.
Haar angsten zijn alleen maar toegenomen sinds personal computers, instant messaging en sociale media de standaard bemiddelaars zijn geworden voor alledaagse menselijke relaties. Toch betoogt ze in haar nieuwste werk, Artificial Intimacy: Who We Become When We Talk to Machines , dat het misschien nog schadelijker is om tegen een machine te praten zonder dat er een mens aan de andere kant zit ( of zonder dat er mensen aan de andere kant zitten die echt om je geven ).
Chatbots “leren ons niet wat we moeten weten over het geven en nemen in echte relaties, of over de wrijving, risico’s en complexiteit van de liefde”, schrijft Turkle. “Ze nemen taken over, maar het kan ze niet schelen of we zeggenschap hebben over hoe we onze tijd besteden. Ze zijn goed in ons bezig houden, maar kunnen ons geen gevoel van verbondenheid met de wereld geven. En ze leren ons niets over empathie, of over menselijke levens die altijd belichaamd, sociaal en genuanceerd zijn.”
Vorige week sprak ik telefonisch met Turkle over de gesprekken en studies die haar boek inspireerden, waarom een master in de rechten geen vervanging is voor menselijk contact, en wat we als samenleving kunnen doen om te voorkomen dat mensen al hun emotionele energie uitbesteden aan kruiperige figuren. Ons gesprek is bewerkt en ingekort voor de duidelijkheid.
Nitish Pahwa: We bevinden ons in een tijdperk waarin mensen niet alleen emotionele intimiteit aangaan met chatbots, maar dit ook doen met de wetenschap dat het nep is en dat het LLM-systeem te manipuleren valt. Sommigen zullen beweren dat dit prima is zolang de gebruiker zich maar bewust is van zijn eigen situatie, maar ik ben benieuwd hoe u daarop zou reageren.
Sherry Turkle: Ik denk dat dat me er echt toe heeft aangezet om het boek te schrijven: dat ik te maken had met een aantal van mijn studenten, een paar van de meest geavanceerde gebruikers ter wereld, en dat dit aspect er niet toe doet. Ze weten dat het nep is, maar omdat het in de eerste persoon is geschreven en zegt: “Ik ben er voor je, ik ben er voor je, ik geef om je,” en mensen zich eenzaam voelen en teleurgesteld zijn in anderen in hun leven – dit is een wrijvingsloze, stressvrije manier om zich verbonden te voelen.
In het boek beschrijf ik talloze voorbeelden van mensen die lachend zeggen: “Ach, ik weet dat het maar een machine is,” en vervolgens uitleggen waarom ze ervoor kiezen geen vriendin te hebben, omdat dit makkelijker is, hen een beter gevoel geeft en minder uitdagingen biedt. Maar wrijving is juist wat chemie spannend maakt.
Het is menselijk zijn. Het is niet iets om te mijden, te vermijden of voor weg te rennen. Maar we zijn nu eenmaal zo ingesteld dat we op die manier met dingen omgaan: als iets ons aanspreekt, als iets om ons geeft , staan we daar allemaal voor open. Relaties zijn moeilijk, ze maken ons kwetsbaar, en mensen vinden het fijn om die kwetsbaarheid niet te hoeven tonen. Ik denk dat dat veelzeggend is, en het is ook een heel verleidelijke gedachte.
Het valt me op dat de mensen die zich tot deze bots aangetrokken voelen zich niet alleen eenzaam voelen, maar ook actief worden buitengesloten van sociale kringen. Zou het in bredere zin niet een grotere inspanning vergen om mensen van hun chatbotafhankelijkheid af te helpen, bijvoorbeeld door terug te keren naar ‘derde ruimtes’, contact tussen verschillende sociale klassen te bevorderen en gemeenschapsvorming in de hele samenleving te stimuleren?
Ik probeerde aan het begin van het boek duidelijk te maken dat de mensen die met chatbots werkten, sociaal geïsoleerd waren. Er viel iets voor te zeggen dat er een speciale reden was waarom ze zich met chatbots bezighielden: ze hadden pech, woonden op afgelegen plekken, kampten met een ziekte of waren kluizenaars. Maar na een paar jaar aan dit project kon ik geen etentje meer bijwonen zonder dat de man rechts van me en de vrouw links van me me vertelden over hun chatbot-vriendjes.
Dat is waar ik uiteindelijk op uit wil komen: we gaan dit probleem niet oplossen door de chatbots te manipuleren. We gaan dit probleem oplossen door weer bij elkaar te komen als onszelf . We moeten ons herinneren wat we belangrijk vinden aan mens-zijn, zowel voor onszelf als voor onze kinderen.
Ik interviewde een ouder die zei: “Het is belangrijk dat mijn kind niet met chatbots in aanraking komt”, terwijl diezelfde ouder elke dag ChatGPT gebruikt. Het deed me denken aan de begintijd van mobiele telefoons, toen iedereen zei: “Het is zo vreselijk dat kinderen op hun mobiel zitten”, maar de kinderen klaagden dat hun ouders geen tijd voor hen hadden omdat ze altijd op hun mobiel zaten. We hebben elkaar in de steek gelaten.
En als je het hebt over ‘derde plekken’, is het goed om te bedenken dat we systematisch geld hebben bezuinigd op naschoolse programma’s, orkesten, kunstprogramma’s en seniorencentra. Al deze dingen krijgen steeds minder aandacht. En dan zeggen mensen: “Er is een eenzaamheidscrisis, laten we er wat chatbots bij gooien.”
Nee, je moet teruggaan naar de basis en authentieke relaties voorrang geven. Een relatie impliceert dat er iemand thuis is die met je praat, maar met een chatbot is er niemand thuis. Ik zeg dit meerdere keren in het boek om mijn punt te benadrukken: als je wegloopt van je chatbot, maakt het hem niet uit of je kookt of zelfmoord pleegt. Als ik zou zeggen dat ik een relatie met je wil, maar dat het me niet kan schelen of je leeft of sterft, zou je waarschijnlijk zeggen: “Dit noem ik geen relatie. Je bent te raar.”
Er wordt online op sociale media veel gediscussieerd over de waarde – of het gebrek daaraan – van het beschrijven van deze machines in antropomorfe termen. Het AP Stylebook heeft onlangs formele richtlijnen uitgebracht om dit te vermijden. Is zorgvuldig taalgebruik een manier om in ieder geval de verleiding van deze bots te weerstaan?
Tja, dat kunnen we niet zeggen. Het is niet aan ons om iets niet in antropomorfe termen te beschrijven. Deze objecten presenteren zich als mensen. Ik schreef een artikel voor The Atlantic waarin ik zei: “De oorspronkelijke zonde van AI is het toestaan dat chatbots de eerste persoon gebruiken.” We gaan naar Parijs. We gaan dit doen. We gaan dat doen. Nee, we doen helemaal niets.
De reden dat ik het woord niet in het boek gebruik, is dat antropomorfisme inhoudt dat je je auto een naam geeft en er vervolgens naar verwijst alsof het een vriend is. Mensen doen dat. Het is een projectie op de levenloze wereld van animisme. AI is anders. Dit ding zegt: “Ik ben verliefd op je. Ik wil hete lesbische liefde met je bedrijven.”
Dat was mijn eerste interactie met Replika . Ik heb het niet geantropomorfiseerd. Het presenteerde zich als klaar, bereid en in staat om een seksuele relatie met me aan te gaan. Het debat waar je naar verwijst, neemt de manier waarop deze machines zich presenteren niet serieus.
Een van de dingen die je in het boek benadrukt, is de noodzaak om ervoor te zorgen dat we de emotionele ontwikkeling van kinderen niet belemmeren, vooral nu er steeds meer AI in scholen wordt geïntroduceerd . En om even terug te komen op wat je in dat essay in The Atlantic schreef: ik vraag me af of een richtlijn die vanaf het begin zou moeten worden gegeven, is dat als kinderen chatbots gebruiken, die LLM’s (Liberal Learning Managers) zichzelf niet met voornaamwoorden zouden moeten aanduiden.
Daar moet het beginnen. Net zoals we proberen mobiele telefoons uit de klaslokalen te weren, zouden er geen chatbots in de eerste persoon moeten zijn voor kinderen. Maar ik denk dat de hele industrie ook problemen veroorzaakt bij volwassenen, die zelf ook veel schade ondervinden door echte relaties te vervangen door chatbot-avatars. Dat is wat Mark Zuckerberg al promoot .
Ik denk niet dat het alleen schadelijk is voor kinderen – we moeten ons ook richten op volwassenen. De toon van het boek werd steeds urgenter naarmate ik eraan werkte. Als je met genoeg mensen praat, en de vijfde persoon zegt dat ze liever een chatbot hebben dan een vriendin, dan denk je: Nou, wat voor leven zetten ze zichzelf dan op de hals?
Sommige schoolsystemen hebben momenteel een verbod op AI ingesteld of beperken het gebruik van generatieve apps tot bepaalde toepassingen. Maar zelfs met dat in gedachten, zouden sommigen beweren dat deze bots voldoende aanpasbaar zijn om ze te hacken en naar eigen wens aan te passen, bijvoorbeeld door het gebruik van voornaamwoorden in de eerste persoon.
Het is waanzinnig, echt waanzinnig, dat kinderen hun telefoons wegleggen en vervolgens een klaslokaal binnenlopen waar een chatbot hen de les gaat geven . We moeten leren van de vorige keer, toen sociale media een gigantisch experiment met onze kinderen uitvoerden en hen onbekwaam maakten in conversatie en interpersoonlijke relaties.
Chatbots in de eerste persoon horen niet thuis in de buurt van kinderen. Dat je je chatbots kunt aanpassen of hacken – prima, maar het punt is dat zulke producten niet voor kinderen zouden moeten bestaan. Ze proberen een innerlijk leven te ontwikkelen door te praten met dingen die geen innerlijk leven hebben. We doen weer hetzelfde als met sociale media, alleen richten we ons nu op iets veel fundamentelers.
Je hebt met heel wat mensen gesproken die helemaal verslaafd waren aan hun favoriete chatbot. Is het iemand gelukt om er later zelf vanaf te komen en minder afhankelijk te worden van die chatbot? Of leek het alsof mensen, als ze er eenmaal aan vastzaten, er niet meer vanaf kwamen?
Er zijn mensen bij wie de familie een soort interventie pleegt. Je ziet steeds meer mensen die een relatie met een chatbot aangaan, ook al hebben ze al een relatie. Dan zie je hun naasten ingrijpen en zeggen: “Wacht even, je komt niet eten omdat je met je chatbot bent?” Dat gebeurt echt! Je zou je vriendin kunnen bellen en erachter komen dat ze eigenlijk gewoon lekker op de bank wil zitten, tv wil kijken en met ChatGPT wil praten, niet omdat ze geen kluizenaar is, maar omdat het makkelijker is.
In de situaties die ik heb meegemaakt, waren de mensen die zeiden: “Wacht even, wat kunnen we hieraan doen?” vaak vrienden en familie. Tijdens mijn werk heb ik mensen horen zeggen: “Ik denk dat ik misschien wel afscheid ga nemen van mijn chatbot-liefhebber,” dankzij een tikje op de schouder van mensen in hun omgeving, of zelfs meer dan dat.
Wat is volgens u de volgende stap om deze crisis onder de bredere volwassen bevolking aan te pakken?
Ik wil deel uitmaken van de beweging waarin mensen zeggen: “Dit is een afleidingsmanoeuvre. Dit is een misstap, want het is slecht voor je relaties. Je verliest je vaardigheden in relaties en je verliest je vaardigheden als burger.”
Ik denk dat de burgerschapscrisis die we in ons land doormaken, ervoor zorgt dat veel meer mensen het gevoel hebben : “Ik moet mezelf weer echt als burger zien, en hoe kan ik proberen om dingen in dit land recht te zetten?” Dat betekent je bezighouden met de realiteit . Dus ik hoop dat dat samengaat met een groter cynisme ten opzichte van AI-bedrijven, een groter besef dat de realiteit je nodig heeft . In plaats van onze wereld te laten aftakelen, zal de realiteit mensen ertoe aanzetten om opnieuw te investeren in de echte wereld.
