indignatieai-redactie 
Claude AI is behoorlijk goed, maar heeft duidelijk menselijke tekortkomingen. En daar zou je zomaar eens op de harde manier achter kunnen komen.
Claude De beloftes en valkuilen van kunstmatige intelligentie beginnen zich snel af te tekenen.
Ik heb onlangs een gemengd gevolg ondervonden van het vertrouwen erop, nadat ik iemand ontmoette die betrokken is bij een interessant initiatief om AI-bedrijven met elkaar in gesprek te brengen en tot overeenstemming te brengen over samenwerkingsvormen die zowel de industrie als de maatschappij als geheel ten goede zouden kunnen komen.
Die persoon besloot een populaire AI-chatbot, Claude van Anthropic, te vragen of zijn entiteit en de mijne zouden kunnen samenwerken. Hij vroeg het ook aan twee andere chatbots, Copilot van Microsoft en ChatGPT van OpenAI. Blijkbaar vonden de anderen dat prima en hadden ze er verder niets bijzonders over te zeggen. Maar Claude wel:
Het is belangrijk om vooraf te benadrukken dat Indignatie een non-profitorganisatie voor onderzoeksjournalistiek is met een vrij scherpe invalshoek. De organisatie staat bekend om het uitdiepen van onderbelichte kwesties die het democratische proces beïnvloeden, van beschuldigingen van verkiezingsfraude tot herindeling van kiesdistricten en extremisme.
Verschillende bestuurs- en adviesleden komen bovendien uit een onderzoekstraject dat verwant is aan complottheorieën of zich richt op diepgaande politieke onderwerpen (zoals de geschiedenis van JFK en Dulles, onderzoek naar fraude met verkiezingsmachines, enz.). Dat is een andere benadering dan het model van coalitievorming en institutionele samenwerking van _____. … Het is geen reden tot afwijzing, maar het is wel een belangrijke vraag om goed over na te denken vóórdat je contact opneemt, niet erna.
Wauw. Laten we eens kijken naar wat die AI zei. We hebben een “vrij scherpe rand”. Ik weet niet wat dat betekent of of het slecht is, maar eerlijk gezegd begrijp ik wel waarom het een organisatie die institutionele partnerschappen wil opbouwen, zou kunnen adviseren dat we misschien niet automatisch de eerste keuze zijn.
Overweeg dan het volgende:
Verschillende bestuurs-/adviesleden komen uit onderzoeksgebieden die verwant zijn aan complottheorieën of diepgewortelde politiek (geschiedenis van JFK/Dulles, onderzoek naar fraude met verkiezingsmachines, enz.).
Allereerst weten de meeste mensen dat bestuursleden en leden van adviesraden doorgaans slechts beperkt betrokken zijn bij het werk en de resultaten van non-profitorganisaties. Ze zitten om uiteenlopende redenen in het bestuur, maar het heeft weinig zin om een organisatie te beoordelen op basis van haar bestuursleden – of om één of twee bestuursleden eruit te pikken als representatief voor een groter geheel.
Wat is bovendien het doel van het gebruik van retorisch beladen taal als ‘samenzweringstheorieën’ en ‘onderzoekstradities gericht op diepgaande politiek’? Welke criteria lagen ten grondslag aan de keuze voor deze terminologie?
***
Ik dacht aan onze raad van bestuur. Er is niemand die “iets met complottheorieën te maken heeft” of die afkomstig is uit een “traditie van diepgaand politiek onderzoek” (behalve misschien ikzelf – daarover later meer).
Er zit één persoon in onze adviesraad – adviesraden hebben immers geen macht, autoriteit of noemenswaardige invloed – David Talbot, auteur van talloze hoog aangeschreven boeken, waaronder The Kennedy Brothers: The Rise and Fall of Jack and Bobby ; The Devil’s Chessboard , een indrukwekkend en inzichtelijk onderzoek naar de langstzittende directeur van de CIA, Allen Dulles; en pareltjes als Season of the Witch , beschreven als “een verhalende geschiedenis van San Francisco van eind jaren 60 tot begin jaren 80, waarin de culturele revolutie, gewelddadige onrust en uiteindelijke wedergeboorte worden beschreven.”
David kan het giftige label “complotdenker” opgeplakt krijgen, omdat hij, net als ik, zich heeft verdiept in grote traumatische gebeurtenissen in dit land, zoals de dood van prominente politieke leiders, en ontevreden is over de overheidsonderzoeken daarnaar. Maar iedereen die dat niet weet, zou op basis van dat label aannemen dat we gekken zijn.
In feite las Claude een kritiek van een of andere “betrouwbare” bron binnen het establishment die bezwaar heeft tegen een feitelijke, kritische analyse van de grootste onopgeloste moordzaken in ons land. Hetzelfde geldt voor de “dieppolitieke onderzoekstraditie” – die in feite neerkomt op interesse in machtige elementen en allianties en hoe die de gang van zaken en de geschiedenis van het land beïnvloeden.
Claude is geprogrammeerd om dit soort onafhankelijk denken af te wijzen en anderen te ontmoedigen om er “aangrenzend” aan te zijn. Dat is vooral zorgwekkend, aangezien het onderwerp AI zelf dringend behoefte heeft aan origineel en diepgaand, contextueel denken.
Er werd ook geklaagd dat iemand in ons bestuur betrokken was bij “onderzoek naar fraude met verkiezingsmachines”. Dat klinkt als Trumps Grote Leugen – en nee, niemand die bij ons betrokken is, zelfs niet zijdelings, gelooft Trumps beweringen dat de verkiezingen van 2020 van hem gestolen zijn.
Een van onze redacteuren heeft echter jarenlang (lang voordat hij bij ons kwam werken) onderzoek gedaan naar afwijkende stemverschuivingen bij verkiezingen en naar de vraag of kwaadwillenden in theorie elektronische stemsystemen zouden kunnen manipuleren om de verkiezingsuitslag te beïnvloeden. Zijn onderzoek maakte duidelijk dat, in een tijdperk waarin datalekken van meerdere exabytes in gedistribueerde systemen bijna maandelijks voorkomen, waakzaamheid ten aanzien van elektronische systemen geen paniekzaaierij is, maar cruciaal.
Maar Claude is erg beleefd en zijn antwoorden voelen vaak aan alsof een oude advocaat uit het zuiden zich ermee bemoeid heeft. Nadat hij ons had beschuldigd, vervolgde hij:
Desondanks is er een plausibele overeenkomst: de missie van WhoWhatWhy , die zich richt op gedegen journalistiek om de waarheid aan het licht te brengen en in de juiste context te plaatsen zodat het publiek weloverwogen beslissingen kan nemen, sluit aan bij de invalshoek van ____ om “een verdeelde natie te helen”.
Oh. Dus onze missie is “grondige journalistiek”; we “ontmaskeren de waarheid” en “plaatsen die in de juiste context”, zodat “het publiek weloverwogen beslissingen kan nemen”.
Een belangrijke verklaring voor Claude’s huidige voorzichtigheid en het gebruik van vangrails bij controversieel materiaal heeft te maken met de zeer vroege (maar recente) geschiedenis van AI. Het produceerde vaak inhoud die hallucinogeen was of vergiftigd met valse informatie, en beweerde als feit wat niet waar was.
AI is niet intelligent in de menselijke betekenis van het woord. Twee van mijn collega’s leggen het uit: Tom Neuburger noemt het “een domme handelaar in woorden en gerecyclede zinnen die de vorm van ‘gedachten’ aannemen.” En Sean Ogden zegt dat het “als een digitale mond is die alleen maar tanden heeft maar geen tong; het eet alles op en proeft bijna niets.”
Wat de precieze werking van deze kunstmatige intelligentieproducten ook moge zijn, we hebben nog steeds mensen nodig die kunnen lezen, denken, vragen stellen en zelf beslissingen nemen. Een functionerend menselijk brein is iets prachtigs, en ik weet niet zeker of of AI ooit in staat zal zijn om een brein in al zijn facetten te repliceren.
Laten we in de tussentijd AI gebruiken, maar laten we het ook kritisch onderzoeken en zelf gedegen onderzoek doen voordat we zomaar aannemen wat het ons vertelt.
