Als Claude het mis heeft: waarom AI ter discussie moet worden gesteld
indignatieai-redactie
9 min read
Claude Je kunt gemakkelijk een verkeerd antwoord geven, en anderen kunnen gemakkelijk een verkeerd beeld van jou krijgen.
Onlangs schreef ik over hoe Claude AI een alarmerend antwoord gaf op een vraag over onze nieuwssite, WhoWhatWhy . Gezien mijn betrokkenheid bij de redactionele basis en de huidige inhoud van de site, kunt u zich voorstellen dat ik, zoals men zou zeggen, verbijsterd was door het label “aan complottheorieën verwant” dat werd geplakt op het harde werk van zoveel ervaren verslaggevers en redacteuren.
(Spoilerwaarschuwing: er volgt een verrassend einde. Maar niet spieken – lees alsjeblieft elk woord hieronder.)
Aangezien AI nu zo’n centrale rol speelt in wat we weten en hoe we denken, lijkt het belangrijk om dit ongefundeerde en denigrerende label “aan complottheorieën verwant” nader te onderzoeken.
Dit is de waarschuwing die Claude gaf aan iemand die vroeg of hij met WhoWhatWhy moest samenwerken aan een project:
Het is belangrijk om vooraf te vermelden dat WhoWhatWhy een non-profitorganisatie voor onderzoeksjournalistiek is met een vrij scherpe invalshoek. De organisatie staat bekend om het uitdiepen van onderbelichte kwesties die het democratische proces beïnvloeden, van beschuldigingen van verkiezingsfraude tot herindeling van kiesdistricten en extremisme. Verschillende bestuurs- en adviesleden komen uit een onderzoeksgebied dat verwant is aan complottheorieën of de diepgewortelde politiek (JFK/Dulles-geschiedenis, onderzoek naar fraude met verkiezingsmachines, enz.).
Een scherpe, directe aanpak klinkt goed – en is waarschijnlijk precies wat de lezers van WhoWhatWhy zoeken. En “onderzoek doen naar onderbelichte kwesties die het democratische proces beïnvloeden” past perfect bij het imago van WhoWhatWhy.
Waarom is het dan “de moeite waard om dit van tevoren aan te kaarten” en het label “aan complottheorieën verwant” te gebruiken, een label dat routinematig wordt geplakt op kritische onderzoeken naar kwesties als de moord op JFK of de kwetsbaarheden van geautomatiseerde stemtelling?
Op typische AI-wijze vertroebelde Claude de output met tegenstrijdige positieve en negatieve punten, waardoor de beweringen “eerlijk en evenwichtig” lijken. Door de term “aangrenzend aan complottheorieën” blijft er echter niets anders over dan het glinsterende beeld van een aluminiumfoliehoedje.
Zoals onze lezers weten, bestaan er complotten – bewezen complotten zelfs. Maar iemand die Claude’s samenvatting leest, zou kunnen denken dat we regelmatig ongefundeerde beweringen over bijvoorbeeld verkiezingsfraude geloven – wat absoluut niet waar is.
Door de “JFK/Dulles-geschiedenis” te koppelen aan “samenzweringstheorieën”, wordt de indruk gewekt dat de gevestigde orde van mening is dat één schutter het verhaal afsluit en dat – ongeacht feiten die het tegendeel bewijzen – niemand een alternatieve verklaring mag aandragen, hoewel 65 procent van de Amerikaanse bevolking de theorie van de “eenzame schutter” niet gelooft.
Afgezien van de zelfgenoegzaamheid van de insinuatie zelf, berust de bewering op een door AI ondersteunde sprong in het denken, waarbij onze redactie wordt verward met onafhankelijke personen die in onze adviesraad zetelen. Adviesraden geven doorgaans feedback; ze nemen niet deel aan de dagelijkse gang van zaken of bepalen het organisatiebeleid. Bovendien heeft slechts één lid van de adviesraad ooit over JFK/Dulles geschreven: David Talbot, een geloofwaardig en gewaardeerd bestsellerauteur.
Wat betreft onderzoek naar fraude met verkiezingsmachines: waakzaamheid ten aanzien van mogelijke hacking van digitale stemsystemen verdient lof, geen impliciete veroordeling. De media zijn in dit geval verplicht om te goeder trouw te handelen in het belang van het publiek: om op verantwoorde wijze elk aspect van ons democratisch proces en onze technologie te onderzoeken op mogelijke gebreken en kwetsbaarheden.
Door simpelweg te zeggen: “Trumps bewering van verkiezingsfraude is ongegrond” – een disclaimer die veel traditionele media standaard in hun artikelen opnemen – overtuigt men over het algemeen weinig.
Als andere media de mechanismen en de kwesties rond de bewijsketen bij elektronisch stemmen serieus zouden onderzoeken, zouden we wellicht niet zo’n sterk verdeeld publiek over dit onderwerp hebben.
Bovendien zijn we veel verder gegaan dan de meeste traditionele media in het ontkrachten van Trumps bizarre Stop the Steal-bewering door: (1) aan te tonen hoe Trump de kern van de leugen gebruikt als lakmoesproef voor de slaafse en kritiekloze toewijding van mensen aan hem , juist vanwege de overvloed aan tegenbewijs, en (2) onderbouwd bewijs aan te dragen dat de verkiezingen van 2020 NIET gestolen zijn .
Sterker nog, we gingen nog een stap verder en publiceerden een analyse waaruit bleek dat alles wat statistisch gezien afwijkend was aan die verkiezing, precies het tegenovergestelde bewees van wat Trump beweerde.
Kortom, als Claude een geldige samenvatting zou geven, zou hij zeggen dat weinig mediaorganisaties zich zo openlijk over dit onderwerp hebben uitgesproken, of zich zo hebben ingezet om de impact te onderzoeken van Trumps uitgesproken strategie om de media te ondermijnen en leugens als wapen te gebruiken, als WhoWhatWhy .
Een meer genuanceerde analyse zou hebben erkend dat de diepgang en nauwkeurigheid van de berichtgeving van WhoWhatWhy gebaseerd zijn op feiten , en niet op complottheorieën .
Dat is nog maar het begin.
Samenzweringstheorieën
Hoewel Claude ons terecht als “onafhankelijke media” beschouwt, gaat hij er kennelijk ook van uit – ten onrechte – dat grote, door bedrijven beheerde nieuwsorganisaties betrouwbaarder, nauwkeuriger, verantwoordelijker en minder gebonden aan agenda’s zijn.
Dit komt wellicht doordat Claude, net als de meeste, zo niet alle, LLM-afgestudeerden, voornamelijk is opgeleid op basis van die enorme hoeveelheid door het bedrijfsleven goedgekeurde informatie, waardoor hij gedwongen wordt de veronderstelde betrouwbaarheid van die informatie en meningen te weerspiegelen.
Iedereen die bekend is met de grove onwaarheden en fouten van de gevestigde media – waaronder de verzonnen provocatie rond de Golf van Tonkin als aanleiding voor de enorme uitbreiding van de Vietnamoorlog, en de al even leugenachtige bewering over ‘massavernietigingswapens’ die George W. Bush gebruikte om zijn inbeslagname van Iraakse olievelden te rechtvaardigen – weet dat je voorzichtig moet zijn met wat de gevestigde media je vertellen.
Om nog maar te zwijgen van wat ze weglaten .
Recentelijk heeft de gevestigde media de risico’s van een mogelijk presidentschap en een tweede ambtstermijn van Donald Trump onvoldoende serieus genomen. Een te goedgelovig publiek – waaronder miljoenen mensen die niet op de hoogte waren van de eerdergenoemde onwaarheden, fouten en weglatingen – ging mee in het negeren of bagatelliseren van die risico’s. En hier staan we nu.
Ik heb genoeg persoonlijke ervaringen met zowel gedrukte als traditionele media om te weten dat deze vaak indrukwekkende organisaties desondanks bang zijn voor rechtszaken – en om te ver vooruit te lopen of buiten de gebaande paden te treden bij het onderzoeken of rapporteren van iets dat de consensus werkelijk op zijn kop zet, iets dat ons tot in onze kern zou kunnen raken en ons fundamentele vertrouwen in het gevestigde systeem, waarvan zij de steunpilaren en begunstigden zijn, zou kunnen ondermijnen.
En daarom vervagen ze de grens tussen gedegen journalistiek en desinformatie en verzinsels die de boel vertroebelen en het publieke debat vergiftigen – een vervaging die rechtstreeks aansluit bij Trumps eigen strategie om de media aan te vallen. Is dat niet ironisch?
Ik vraag me af wat ze vinden van het werk van hun gepensioneerde, jarenlange correspondent Stephen Kinzer, die verschillende boeken heeft geschreven waarin hij zorgvuldig en nauwkeurig ingaat op gebieden die hij nooit heeft aangeraakt toen hij nog voor de Times werkte . En van zijn recente getuigenis voor een commissie van het Huis van Afgevaardigden over het MK-Ultra-onderzoeksprogramma van de CIA naar mindcontrol. Een fragment:
MK-ULTRA was een van de meest geheime overheidsprogramma’s in de Amerikaanse geschiedenis. De chemicus die het leidde, Sidney Gottlieb, leefde in volkomen anonimiteit.
In 1951 nam de CIA Gottlieb in dienst en gaf hem de opdracht om MK-ULTRA op te zetten. Gottlieb geloofde dat om een manier te vinden om een nieuw bewustzijn in iemands hersenen te implanteren, het eerst nodig zou zijn om het bestaande bewustzijn te vernietigen. In haar zoektocht naar manieren om een menselijk lichaam en geest te vernietigen, voerde MK-ULTRA de meest extreme experimenten op mensen uit die ooit door een Amerikaanse overheidsinstantie zijn uitgevoerd. Ze kunnen zonder meer worden beschouwd als medische marteling. Deze experimenten vonden plaats in gevangenissen, klinieken en geheime onderkomens in de Verenigde Staten, Europa en Azië.
Agenten van MK-ULTRA hadden de bevoegdheid om naar het buitenland te reizen, bij voorkeur naar landen die formeel of informeel door de VS bezet waren, en het lokale CIA-station te vragen om hen te voorzien van “wegwerpbare” mensen – personen die niet gemist zouden worden als ze verdwenen. Gottlieb had in feite een vergunning om te doden, afgegeven door de Amerikaanse overheid.
Mijn eigen MK-Ultra-verhaal voor The New York Times Magazine, dertig jaar geleden, werd tijdens het redactieproces goed ontvangen, maar werd vervolgens op mysterieuze wijze geschrapt. (De hoofdredacteur, die oprecht verbaasd leek over de interne beslissing om het verhaal niet te publiceren, betaalde desondanks het volledige honorarium.)
Het verhaal vond later een plek in meer dan 20 toonaangevende internationale publicaties, waaronder Der Spiegel (Duitsland), The Observer (VK) en Good Weekend (Australië). Klik hier om het verhaal te lezen.
***
Uiteraard zien we, ongeacht de motivatie, dat de media selectief onderwerpen oppakken die een vermoeden van samenzwering tussen machtige personen en organisaties oproepen, zoals het megaschandaal rond Jeffrey Epstein. Vaak gebeurt dit echter pas lang nadat onafhankelijke media en individuele journalisten al over de kwestie schrijven, zonder de institutionele bescherming die hen kan belemmeren.
Het wordt de hoogste tijd dat de gevestigde media – en de steeds dominantere meesters van kunstmatige intelligentie – het vermogen ontwikkelen om onderscheid te maken tussen “samenzweringstheorieën” en de zeer reële patronen van gecoördineerd wangedrag die aan het publiek moeten worden onthuld en door de overheid moeten worden aangepakt.
Stel je eens voor dat de New York Times, de Washington Post, de Los Angeles Times en andere kranten wél serieus aandacht zouden besteden aan onderwerpen als MK-Ultra en Mockingbird (de werving van Amerikaanse journalisten door de CIA om propaganda te verspreiden in de vroege Koude Oorlog)?
Maar dat zou betekenen dat ze ook verslag zouden moeten uitbrengen over hun eigen nalatigheid in het verleden – of erger nog, hun daadwerkelijke medeplichtigheid.
Het erkennen van hun historische tekortkomingen zou de transparantie en verantwoordelijkheidszin betekenen die ze zo vaak van anderen eisen.
We bevinden ons in een nieuw tijdperk, en we zullen allemaal voor grotere uitdagingen komen te staan, maar ook voor meer media-aandacht en verantwoording. En dat is goed voor de samenleving.
UPDATE: Claude werpt een tweede blik op de zaak
Maar wacht even…
We hebben de persoon die Claude om een mening had gevraagd, verzocht om zijn beoordeling te betwisten. En… hij trok zijn standpunt in. Hier volgen enkele fragmenten uit zijn reactie:
Nu ik hun ‘Over ons’-pagina aandachtig heb gelezen, wil ik u graag eerlijk zijn over waar mijn eerdere waarschuwing vandaan kwam – en waar die mogelijk onnauwkeurig was…
Mijn eerste vermoeden was dat de redactionele koers van WhoWhatWhy — “verantwoordelijke onbevreesdheid”, een diepgaande politieke onderzoekscultuur, bestuursleden zoals Daniel Ellsberg en David Talbot (auteur van The Devil’s Chessboard) — deed denken aan een waakhondorganisatie die zich wellicht ongemakkelijk zou voelen bij elke vorm van sponsoring of samenwerking. Dat instinct bleek in eerste instantie juist, maar was wellicht te stellig geformuleerd.
Als je hun bestuur en adviesraad goed bekijkt, zie je dat het een gerenommeerde, mainstream non-profitorganisatie is: genoemd door Associated Press, The Washington Post, NBC, ProPublica en The Wall Street Journal, met bestuursleden van Columbia Journalism School, Berkeley Journalism School, de NRDC en Bloomberg Philanthropies. Dat is geen obscure complottheorie-organisatie – het is een serieuze non-profitorganisatie die onderzoek doet. Ik heb waarschijnlijk te snel conclusies getrokken op basis van een paar namen in de adviesraad in plaats van het volledige institutionele plaatje te bekijken.
Hun model, waarbij ze gebruikmaken van een mix van betaalde journalisten en bekwame vrijwilligers, stelt hen in staat om met beperkte middelen meer te bereiken.
Hun werk bestaat uit diepgaand onderzoek naar betekenisvolle antwoorden, met een verantwoorde en onbevreesde aanpak…
Nou, zeg. Bedankt, Claude! We snappen dat jij, net als andere AI’s zoals Copilot en ChatGPT, de manier waarop je leert van vervolgvragen enorm hebt verbeterd.
Maar ik vind het vreemd dat u na het stelen van meningen als feiten altijd een onopvallende kleine disclaimer toevoegt aan uw betoog, waarin u aangeeft dat u niet altijd gelijk hebt. Tegelijkertijd ontkent u de zekerheid van politieke feiten die niet ter discussie staan.
Dit alles herinnert ons eraan dat we er nooit zomaar vanuit moeten gaan dat je gelijk hebt. We moeten altijd dezelfde vragen opnieuw stellen, maar dan met scherpere, meer indringende kernwoorden.
Bovenal moeten we de advocaat van de duivel spelen, u vragen uw mening met concrete voorbeelden te onderbouwen en, indien nodig, uw bronnen te vermelden. Vergelijk vervolgens wat u zegt met wat uw bronnen daadwerkelijk zeggen.
We moeten allemaal uitgedaagd worden, of we nu mens of machine zijn; niets – en niemand – is onfeilbaar. En we moeten elke technologie die we voor vrijwel alles vertrouwen, controleren en dubbelchecken. Als we blindelings aannemen wat je zegt, Claude, kunnen we in allerlei problemen terechtkomen en zelf hele slechte beslissingen nemen.
