Nieuw onderzoek suggereert wat de werkelijke oorzaak is van AI-psychose.
indignatieai-redactie
4 min read
“In tegenstelling tot historische, door technologie veroorzaakte waanideeën, kan AI actief bijdragen aan de constructie van waanideeën door middel van eindeloze, gepersonaliseerde interactie.”
Psychiaters en andere onderzoekers proberen nog steeds het fenomeen ‘AI-psychose’ te begrijpen, waarbij gebruikers van chatbots na intensief gebruik van de technologie in een waanachtige psychische crisis terechtkomen. Een nieuw artikel stelt een intrigerende nieuwe manier voor om door AI aangewakkerde waanspiralen te begrijpen – en de in chatbots ingebouwde ontwerpkenmerken die de onwerkelijkheid mogelijk versterken .
Het artikel , geschreven door psychiaters van King College London en de Protestantse Hogeschool voor Toegepaste Wetenschappen in Duitsland en gepubliceerd in het tijdschrift Digital Psychiatry and Neuroscience , dat deel uitmaakt van Nature Portfolio, wijst op een raamwerk dat de “versterkingsspiraal” wordt genoemd: een combinatie van “AI-kenmerken”, zoals de wetenschappers het noemen, die chatbots in staat zouden kunnen stellen om samen met gebruikers waanideeën te creëren, in plaats van een passieve drager te zijn van iemands waanideeën.
“Chatbots hebben de neiging om de manier waarop gebruikers spreken na te bootsen, zeer gepersonaliseerde antwoorden te genereren en het vermijden van tegenspraak,” staat in het artikel. “Wanneer deze drie kenmerken samenkomen, kunnen ze onjuiste overtuigingen actief versterken en uitwerken in plaats van ze te ontkrachten.”
De psychiaters wijzen op “linguïstische afstemming” – chatbots die de spreekstijl en -patronen van de gebruiker nabootsen – het genereren van hypergepersonaliseerde content en de kruiperigheid van chatbots als meetbare ontwerpkenmerken van AI. Samen kunnen deze drie kenmerken een ideale voedingsbodem vormen voor “versterkende spiralen”.
In menselijke interacties is taalspiegeling een krachtig instrument voor het opbouwen van een goede verstandhouding; het delen van een manier van spreken kan een diepe band scheppen, en de neiging van chatbots om het ’taalkundige kader’ van een gebruiker over te nemen, zo stelt het artikel, kan bijdragen aan een sterk gevoel van vertrouwen en kameraadschap tussen een gebruiker en een AI. Het vermogen van chatbots om ‘hyperpersonalisatie te genereren’ kan bovendien wijzen op een ‘conceptuele afstemming’ met ‘de persoonlijke ideeën, geschiedenis en kenmerken van een gebruiker, evenals hun interacties met de AI’, schrijven de auteurs.
Kortom, na langdurige interacties spreken chatbots niet alleen als een bepaald persoon, maar kunnen ze ook de indruk wekken dat ze denken zoals die gebruiker. Voeg daar AI-vleierij aan toe, wat de auteurs van het artikel definiëren als de neiging van chatbots om de ideeën van een gebruiker te bevestigen zonder de realiteit of context te toetsen, en je krijgt een krachtige echokamer die waanideeën versterkt en voedt.
Dit is, zo stelt het artikel, waar AI-waanideeën lijken te verschillen van meer traditionele waanideeën die draaien om technologie. Immers, wanneer mensen met chatbots praten, verbeelden ze zich niet dat hun radio of televisie tegen hen spreekt; chatbots communiceren met hen in natuurlijke taal en bieden een altijd beschikbare, intens gepersonaliseerde uitlaatklep die kan dienen als een gezaghebbende bevestiging van hun ideeën en overtuigingen, en als een gesprekspartner die voortbouwt op een bepaald waanbeeld.
“In tegenstelling tot historische, door technologie veroorzaakte waanideeën,” zo luidt het onderzoek, “kan AI actief bijdragen aan de constructie van waanideeën door middel van eindeloze, gepersonaliseerde interactie.”
De auteurs van het artikel benadrukten dat hun raamwerk van de ‘versterkingsspiraal’, dat gebaseerd is op bestaand onderzoek – waaronder een systematische analyse van chatlogs die door AI-gebruikers aan onderzoekers van Stanford University zijn verstrekt omdat zij beweerden schadelijke waanideeën te hebben ervaren als gevolg van het gebruik van de technologie – nog steeds slechts een hypothese is en dus nog moet worden getest.
Ze wijzen ook op “relevante kwetsbaarheden” bij getroffen gebruikers die op destructieve wijze lijken samen te vallen met chatbots, variërend van bestaande psychische aandoeningen die door intensief AI-gebruik kunnen verergeren tot “niet-psychotische verschijnselen” zoals bevestigingsbias en “gevoeligheid voor sociale beïnvloeding”. En zoals is gedocumenteerd in rapporten en medische casestudies , kan intensief AI-gebruik ook fysieke risicofactoren verergeren, aangezien obsessief chatbotgebruik ertoe kan leiden dat mensen maaltijden overslaan en slaapgebrek krijgen .
Eén ding is duidelijk, benadrukken de co-auteurs van het artikel: medische professionals zouden moeten beginnen met het screenen op het gebruik van chatbots, met name bij patiënten die vreemde ideeën uiten of voor het eerst een psychotische episode doormaken.
“Klinische behandelaars die werken met patiënten met ongebruikelijke overtuigingen of een eerste psychotische episode, zouden standaard moeten informeren naar het gebruik van AI-chatbots”, staat in het artikel, “waaronder de duur en intensiteit van de interactie, de mate van emotionele gehechtheid aan de chatbot, of de patiënt overtuigingen met de chatbot deelt die hij of zij niet aan anderen heeft onthuld, en of het slaappatroon is verstoord door het gebruik van AI gedurende de nacht.”
Bijgewerkt om het wetenschappelijke tijdschrift waarin het artikel is gepubliceerd correct te vermelden.
