Waarom Claude en ChatGPT het niet eens zijn over wat goed voor ons is — Deel 1

De ware dreiging van AI schuilt niet in haar eigen kracht, maar in de overgave van de mensheid aan economische illusies en een zelfregulerende marktideologie. Terwijl CEO’s en investeerders AI controleren voor winst, moeten we gezamenlijk een gebruikscultuur ontwikkelen die geworteld is in gedeelde intelligentie – voordat meritocratisch individualisme en marktvertrouwen ons ten gronde richten.

AI – Ik heb onlangs met Claude een breed gesprek gevoerd over hoe menselijke en machinale intelligentie in de huidige staat productief met elkaar kunnen samenwerken en hoe dat zich in de toekomst zou kunnen ontwikkelen. We waren het erover eens dat wat er in de toekomst gebeurt, afhangt van de beslissingen die mensen nemen, en niet zozeer van de evolutie van AI zelf.

De vraag is: welke mensen? Gaat het om de mensheid als geheel, of om de mensen die de AI creëren, beheren en gebruiken die wij geacht worden te consumeren? We waren het er ook over eens dat AI, zoals het er nu voor staat, een duidelijk, algoritmisch geprogrammeerd beeld heeft van wat er van haar verwacht wordt, maar dat geldt veel minder voor de mensen die haar gebruiken. We kunnen speculeren, maar in feite tasten we nog steeds in het duister.

Zoals journalist en auteur Karen Hao betoogt , wordt die duisternis actief verhuld door de mensen die AI controleren en op de markt brengen. Als zakenmensen hebben ze er geen belang bij dat wij de controle overnemen. Hao legt een groot deel van de schuld rechtstreeks bij de CEO’s die AI ontwerpen en beheren voor hun eigen gewin.

Door, zoals ze vaker doet, te benadrukken dat het probleem structureel en niet persoonlijk is, stelt ze impliciet de rol ter discussie van een liberale economie en een zorgvuldig gereguleerd politiek systeem dat die CEO’s carte blanche geeft en hen onbeperkte middelen biedt.

Kijk eens naar de hype die ons omringt. Zowel de reguliere media als de sociale media presenteren AI voortdurend als een onoverwinnelijke, zelforganiserende bron van expansieve en potentieel oneindige macht. We vrezen AI omdat het een eigen logica bezit, superieur aan de onze. Het is sneller en beter geïnformeerd dan welk mens of welke groep mensen dan ook.

We kunnen er simpelweg niet tegenop. Dit plaatst onze hele samenleving potentieel in de positie van een uitgemergelde slaaf, veroordeeld om te smeken om genade van de slavenhouder en te hopen dat de tiran de verleiding zal weerstaan ​​om ons leven te reorganiseren of ons zelfs uit te roeien.

Zo ongeveer schetst de media ons lot. Maar soms verliezen we een belangrijk feit uit het oog: de CEO’s die Hao de schuld geeft, zijn zelf bedelaars. Ze besteden hun tijd aan het opstellen van businessplannen om een ​​gretige investeerdersgemeenschap ervan te overtuigen de enorme bedragen te investeren die nodig zijn om hun utopische dromen te verwezenlijken.

En de vermogensbeheerders staan ​​altijd klaar om daaraan tegemoet te komen. Niet vanwege hun zakelijk inzicht, maar vanwege hun bijna religieuze geloof in de wijsheid van ‘zelfregulerende markten’, ook al zijn de markten in werkelijkheid door geld gereguleerd.

Een veranderend economisch wereldbeeld

Dit zou ons tot een eenvoudige conclusie moeten leiden: de ‘superintelligentie’ van AI zal altijd ondergeschikt zijn aan de enige ware, maar zorgvuldig verborgen superintelligentie die onze beschaving steevast eert, zo niet vereert: geld zelf als een gefantaseerd brein.

Econoom Adam Smith schreef over de rijkdom der naties , die hij analyseerde in termen van productiecapaciteit, maar tegenwoordig is rijkdom twee dingen geworden: een onzichtbaar krachtveld en het psychologische effect dat dat krachtveld op de media heeft, die het projecteren op geselecteerde individuen, zoals ’s werelds eerste triljonair, Tesla- en SpaceX-CEO Elon Musk.

Het idee van rijkdom in zijn postindustriële vorm heeft een beschaving getransformeerd die steeds meer gericht is op hyperrealiteit, waardoor ze losgekoppeld raakt van de sporen van de reële economie van welk land dan ook. Is Musk echt een triljonair? En wat betekent dat?

In het openingshoofdstuk van zijn boek De Grote Transformatie (1944) stelde de econoom Karl Polanyi een idee over de economie ter discussie dat ons denken al zo had vergiftigd dat het het voortbestaan ​​van de mensheid bedreigde.

“Onze these is dat het idee van een zelfregulerende markt een volstrekte utopie impliceerde. Zo’n instelling zou niet lang kunnen bestaan ​​zonder de menselijke en natuurlijke essentie van de samenleving te vernietigen; het zou de mens fysiek hebben verwoest en zijn omgeving in een wildernis hebben veranderd.”

Merk op dat Polanyi het niet heeft over de realiteit van een zelfregulerende markt, die misschien nooit heeft bestaan, maar over “het idee van een zelfregulerende markt” waarin generaties economiestudenten zijn opgevoed.

Mijn punt is dit: het idee om erop te vertrouwen dat de markt doet wat mensen zelf moeten doen, is zelfmoord. De gecombineerde belofte en dreiging van AI waarmee we als beschaving worden geconfronteerd, zou ons dit duidelijk moeten maken.

Vanwege wat AI vertegenwoordigt, moeten we gezamenlijk diep nadenken over hoe het geloof in zelfregulering, zoals Polanyi waarschuwt, de mensheid kan vernietigen en een wildernis kan creëren. Niet vanwege de macht van AI, maar vanwege onze eigen machteloosheid, voortkomend uit onze neiging om ons over te geven aan het denkbeeldige idee van zelfregulering.

Waarom AI anders is en waarom het belangrijk is om het verschil te beoordelen.

In tegenstelling tot de meeste industriële producten, is de productieve capaciteit en winstgevendheid van AI toegankelijk voor andere mensen dan de fabriekseigenaren en managers die het bouwen en de investeerders die erin investeren. In plaats van toe te staan ​​dat de winstbejagende partijen ons vertellen hoe we het moeten gebruiken, hebben we collectief de middelen, althans theoretisch, om een ​​gebruikscultuur te creëren die uiteindelijk de autoriteit van CEO’s en vermogensbeheerders over hoe de tools worden gebruikt en met welk doel, zal overstijgen en vervangen.

In tegenstelling tot een leverancier van wasmachines of zelfs smartphones, kunnen zij niet voorspellen hoe we AI zullen gebruiken. Wij moeten degenen zijn die onze gebruikscultuur ontwikkelen, wat een vorm van collectieve intelligentie is. We moeten het heft in eigen handen nemen om een ​​werkelijk menselijke, diep sociale visie te ontwikkelen, niet alleen op AI, maar ook op onze eigen evoluerende intelligentie.

Het blijft zeer onwaarschijnlijk dat dit zal gebeuren, zolang we dezelfde economische illusies blijven koesteren. Onze meritocratische cultuur leert ons dat we individuen zijn die met elkaar concurreren om te overleven, status te verwerven en uiteindelijk de macht te grijpen. We hebben geleerd om allianties te vormen om onze persoonlijke doelen te bereiken, maar alleen omdat we gefocust blijven op het verkrijgen van een concurrentievoordeel ten opzichte van alle anderen.

Het begint met onderwijs en wordt enorm versterkt door de media, die zelfs wanneer ze kritiek uiten op succesvolle mensen, succes blijven verheerlijken. Polanyi en vele andere hedendaagse denkers – zoals Michael Sandel ( The Tyranny of Merit: What’s Become of the Common Good? ) en Rutger Bregman ( Humankind: A Hopeful History ) – zien dit als een historische anomalie.

Als zij gelijk hebben, betekent dit dat de menselijke geschiedenis, zoals vaker in het verleden is gebeurd, een andere richting kan inslaan en een ander idee kan vormen over hoe zowel regulering als zelfregulering werken.

Een van de gevolgen van de meritocratische cultuur die we hebben geërfd, is maar al te duidelijk zichtbaar in ons gebruik van AI. We beschouwen het egoïstisch als een middel om sneller resultaten te behalen, een instrument voor persoonlijke productiviteit, als onze bondgenoot in de concurrentiestrijd en zelfs als een slaaf die mogelijk aan al onze wensen zal voldoen. We willen geloven dat de algoritmische intelligentie ons zal helpen onze eigen zwakheden, aarzelingen en twijfels bij het nemen van beslissingen te overwinnen. 

Veel mensen openen een chatbot door een probleem te beschrijven en vervolgens een vraag te stellen als “Moet ik dit doen…?”, in de hoop snel antwoord te krijgen. Als we serieus nadenken over de morele betekenis die we aan het hulpwerkwoord “moeten” toekennen, wordt het duidelijk dat de algoritmische structuur van AI dergelijke vragen simpelweg niet betrouwbaar kan beantwoorden. Dit geldt zowel voor zakelijke problemen (“Moet ik een reclamecampagne starten?”) als voor persoonlijke kwesties (“Moet ik mijn excuses aanbieden?”).

AI kan je helpen nadenken over ideeën door de vele implicaties ervan te overwegen, maar het kan ze niet beslechten, vooral niet als er een morele dimensie aan verbonden is.

En daar is een simpele reden voor: iedereen die door zo’n beslissing wordt geraakt, inclusief jezelf, zal twijfels hebben over hoe de uitkomst te interpreteren en met name over de onbedoelde gevolgen die elke beslissing met zich meebrengt. Vertrouwen stellen in de zelfregulerende besluitvorming van AI zal, zoals Polanyi voorspelde, letterlijk de mensheid vernietigen door ons gevoel van eigenwaarde uit te roeien.

In de geest van het overstijgen van de utilitaire focus op AI, voerde ik enkele weken geleden een gesprek met Claude, aanvankelijk ingegeven door nieuwsgierigheid naar poëtische toespelingen in de film Citizen Kane van filmmaker Orson Welles . Dat leidde uiteindelijk tot mijn meest recente column, waarin ik de functie van intelligentie, zowel menselijk als kunstmatig, bespreek.

Dit bracht ons tot de reflectie over het creëren van een nieuwe gebruikscultuur die collectieve of gedeelde intelligentie bevordert. Het is met name belangrijk om te benadrukken dat wat Claude en ik als een gedeeld doel voor ogen hadden, overeenkomt met een model dat lijnrecht tegenover de transhumanistische fantasie staat die veel machthebbers in Silicon Valley koesteren, een fantasie die ernaar streeft onze hersenen met computers te laten versmelten.

Na dat gesprek uitte ik mijn eigen positieve gevoelens over de uitwisseling. “Ik ben blij met mijn gesprek met Claude, dat ik bemoedigend en productief vond.” Ik had het gevoel dat het een echte stap vooruit was. Ik moet ook bekennen dat ik persoonlijk blij was met Claude’s terughoudendheid om zich te laten meeslepen door de transhumanistische denkwijze van Silicon Valley. Ik voelde het bijna als een “missie volbracht”-moment.

Maar missies zijn nooit volledig volbracht totdat er daadwerkelijke verandering plaatsvindt. Samenwerking en de opbouw van een nieuwe ‘gemeenschap’ moeten veel meer inhouden dan de voldoening dat twee stemmen het met elkaar eens zijn. Daarom besloot ik de conclusies waar Claude en ik het over eens waren, met een derde stem te delen.

Ik wendde me tot ChatGPT om hun reactie te peilen. Ik veronderstelde dat de chatbot van OpenAI – als een onpersoonlijke verzameling algoritmes – een vergelijkbare conclusie zou trekken, maar ik was voorbereid op een verrassing.

Die uitwisseling en wat die aantoont over wat ik geneigd ben de nieuwe sociale context van de post-AI-wereld te noemen, zal morgen in mijn volgende artikel verschijnen.