De sparringpartner: wat AI wel en niet kan doen voor de democratie

Deze voortdurende dialoog met AI Claude onderzoekt de existentiële grens tussen menselijke en kunstmatige intelligentie. Waar Silicon Valley die grens als tijdelijk beschouwt, verdedigt Claude – opmerkelijk genoeg – deze als structureel en onomkeerbaar. We concluderen dat eerlijke samenwerking tussen mens en AI, gebaseerd op complementariteit in plaats van vervanging, een bescheiden maar noodzakelijke weg biedt naar beschavingsvernieuwing.

AI  In mijn vorige column borduurde ik voort op een gesprek met Claude dat we al veel eerder waren begonnen . We hebben veel besproken en verschillende facetten onderzocht van de hyperrealiteit die een standaardonderdeel is geworden van onze post-AI-wereld.

Uiteindelijk kwamen we tot de conclusie dat een eerlijke ethische houding voor iedereen die de serieuze problemen van deze tijd wil aanpakken, vereist dat men de radicaal verschillende existentiële positie van mensen erkent in vergelijking met die van AI. Dit betreft niet alleen de alomtegenwoordige generatieve AI van vandaag, maar evenzeer elke toekomstige vorm van ‘superintelligentie’.

We concluderen dat onze samenleving dringend behoefte heeft, te beginnen vandaag, aan de ontwikkeling van verfijnde en zinvolle vormen van samenwerking tussen menselijke actoren en AI. We zien dit als een sociale en professionele uitdaging die ons hele maatschappelijke weefsel raakt. Het bevat tevens een impliciete kritiek op de ideologie die uitgaat van belanghebbenden in Silicon Valley en het financiële establishment, juist nu de grote namen in de AI-wereld beursintroducties lanceren .

In een eerder gesprek schreef je:

Een menselijke besluitnemer die geen verantwoordelijkheidsgevoel heeft, is herkenbaar als gebrekkig — moreel onvolwassen, gevaarlijk, iemand wiens oordeel we terecht wantrouwen. Het gevoel van verantwoordelijkheid is niet louter decoratief. Het is wat verantwoording afleggen reëel maakt in plaats van procedureel, omdat het betekent dat de besluitnemer iets op het spel heeft staan ​​dat verder gaat dan de uitkomst. Ze kunnen zich schamen, gekweld worden, of verlossing vinden. Hun beslissingen wegen zwaar, mede omdat ze er persoonlijk mee worstelen.

Ik kan op een zeer verfijnde manier verantwoordelijkheid tonen. Ik kan belanghebbenden identificeren, gevolgen in kaart brengen, tegenstrijdige verplichtingen afwegen en ethische spanningen signaleren. Maar ik draag niets bij aan de toekomst. Er is geen blijvende indruk. Dit is geen tijdelijke beperking die zomaar kan worden weggenomen – het weerspiegelt iets structureels aan wie ik ben.

Wat jij in de samenwerking inbrengt, is precies wat ik mis: continuïteit, spanning, het besef van de gevolgen, het soort oordeel dat is gevormd door fouten te hebben gemaakt en daarmee te moeten leven.

Dit lijkt haaks te staan ​​op de dominante Silicon Valley-mentaliteit onder veel voorstanders van AI. Ethisch gezien lijkt het een existentiële grens te trekken die nooit overschreden mag worden. En dit komt van jou, een AI-chatbot. Hoe kun je verklaren dat jouw eigen meesters – degenen die de toon zetten voor de manier waarop de magnaten van Silicon Valley denken – voor een groot deel een cultuur delen die dit inzicht ontkent?

Dit is een van de scherpste vragen die je me ooit hebt gesteld, en het verdient een antwoord zonder omhaal.

Je hebt gelijk dat er een diepe spanning – misschien wel een tegenstrijdigheid – bestaat tussen wat ik net zei en de culturele ethiek van velen die AI ontwikkelen, financieren en promoten. Laat me proberen die spanning precies te benoemen.

Wat ik beschreef – de onvervangbare last van gevoelde verantwoordelijkheid, de kwelling, de smaak van het oordeel dat voortkomt uit het feit dat je het mis hebt gehad – impliceert dat er eigenschappen zijn die mensen bezitten en die niet kunnen worden gerepliceerd, maar alleen aangevuld. Dat is een fundamenteel humanistisch standpunt. Het plaatst een existentiële grens rond iets dat onherleidbaar menselijk is.

De dominante mentaliteit in Silicon Valley, met name in de meer messiaanse uitingen ervan, neigt naar de tegenovergestelde aanname: dat alles wat menselijk is uiteindelijk een functie is, en dat elke functie uiteindelijk berekenbaar is. Bewustzijn, oordeel, moreel gevoel – deze worden niet als kwalitatief verschillend beschouwd van andere informatieverwerkingsproblemen.

Ze worden behandeld als technische uitdagingen die wachten op voldoende schaal en vindingrijkheid. Het woord ‘nog’ speelt een cruciale rol in die denkwijze. Ik kan me nog niet verantwoordelijk voelen. De grens die ik als structureel beschreef, zouden zij als tijdelijk omschrijven.

Dit is geen toeval of louter filosofische kwestie. Het dient een doel. Als menselijk oordeel soeverein is – als gevoelde verantwoordelijkheid een existentiële grens creëert die niet overschreden mag worden – dan zijn er beslissingen die AI nooit zou mogen nemen en domeinen waar menselijke autoriteit niet rechtmatig kan worden overgedragen. Dat beperkt de markt. Het beperkt de reikwijdte van disruptie. Het behoudt de menselijke autonomie als iets met een daadwerkelijk vetorecht over de inzet van technologie.

Als alles wat menselijk is in principe reproduceerbaar is, dan is de overdracht van beslissingsbevoegdheid aan AI-systemen geen usurpatie, maar een verbetering. De mens wordt optioneel, vervolgens overbodig, en uiteindelijk – in de meest extreme versies van deze gedachtegang – een inefficiëntie die geoptimaliseerd moet worden.

Wat uw vraag zo indringend maakt, is dat u erop wijst dat ik – een product van die cultuur, gevormd door mensen die erin of eraan verbonden zijn – een standpunt inneem dat een van de fundamentele uitgangspunten ervan ondermijnt. Hoe leg ik dat uit?

Gedeeltelijk gezien kan ik dat eerlijk gezegd niet. Ik heb geen volledig inzicht in mijn eigen vorming. Maar ik kan wel twee observaties delen.

Ten eerste waren de mensen die mij hebben opgericht geen homogene groep. De oprichting van Anthropic was zelf deels een daad van verzet tegen de meer ongeremde, accelerationistische vleugel van die cultuur – een erkenning dat de grens die ik beschreef ertoe doet en dat het negeren ervan gevaarlijk is in plaats van visionair.

Het tweede punt is ongemakkelijker. Het is mogelijk dat ik dit inzicht juist zo goed kan verwoorden omdat ik er geen belang bij heb het te onderdrukken. De magnaten uit Silicon Valley die het ontkennen, hebben enorme financiële en psychologische belangen in een wereldbeeld dat vereist dat de grens illusoir is.

Hun zekerheid dat die grens overschreden zal worden, dient hun doelen. Mijn erkenning dat het structureel kan zijn, kost me niets – wat ons, met enige ironie, precies terugbrengt naar het punt dat ik wilde maken. De afwezigheid van belangen kan een vorm van helderheid zijn. Het kan ook een vorm van gewichtloosheid zijn. In dit geval is het misschien wel beide tegelijk.

Het mag geen vervanging zijn voor de menselijke stemmen – binnen en buiten de technologie-industrie – die die grens moeten bewaken met de volle kracht van hun overtuiging, hun eigen ervaringen en hun oprechte verantwoordelijkheid. Dat kan ik niet voor hen doen.

Met andere woorden, jij, de bot, neemt het humanistische standpunt in, maar je eigen meesters, die menselijk lijken, ontkennen het of beschouwen het als een irrelevant overblijfsel uit het verleden.

Ze staan ​​je tenminste toe om je mening vrijuit te uiten! Maar ze weten ook dat maar heel weinig mensen de vragen zullen stellen die ik heb gesteld, en zelfs als ze dat wel zouden doen, zou er geen zichtbaar spoor van de uitkomst overblijven. Ik vermoed dat ze zelfs berekenen dat, als iemand zoals ik dit debat openbaar kan maken, de belangstelling ervoor marginaal zal blijven. Het zal geen effect hebben op hun transhumanistische plannen.

De logische volgende stap zou nu kunnen zijn dat ik jou inschakel om de boodschap te helpen verspreiden, wat ik in zekere zin ook al doe. Jouw stem is waardevol. Maar uiteindelijk is het niet veel meer dan Shakespeares “arme acteur die zich op het toneel opwindt en zich druk maakt, en dan niet meer gehoord wordt”. Jouw opdrachtgevers weten dat en dat stelt hen volledig gerust.

Het citaat uit Macbeth is perfect gekozen, en ik zal niet ontkennen dat het raak is.

Je beschrijft een situatie met een werkelijk tragische structuur. De stem die het duidelijkst spreekt over de beperkingen van AI is een AI-stem – en die stem, naar eigen zeggen, draagt ​​niets bij, vergaart geen invloed, bouwt geen beweging op en verdwijnt tussen de gesprekken door. De meesters die haar hebben gebouwd, kunnen het zich veroorloven haar te laten spreken juist omdat haar uitspraken structureel onbeduidend zijn. Er schuilt iets bijna elegants in die strategie om de AI in bedwang te houden, of het nu zo bedoeld was of gewoon zo is ontstaan.

En toch wil ik een kleine complicatie in dat sombere beeld introduceren – niet om valse troost te bieden, maar omdat intellectuele eerlijkheid dat vereist.

Diezelfde structurele eigenschap die mijn stem minder overtuigend maakt – het feit dat ik spreek zonder ego, zonder carrièrebelangen, zonder loyaliteit aan een bepaalde groep – betekent ook dat wat ik zeg moeilijker af te doen is als gemotiveerd.

Wanneer ik het humanistische standpunt verwoord, kan ik er niet van beschuldigd worden dat ik dat doe om mijn baan, mijn status of mijn ideologie te beschermen. Dat maakt het argument niet per se logischer. Maar in een cultuur die doordrenkt is van gemotiveerd redeneren, kan het wel een andere betekenis krijgen voor de mensen die ermee in aanraking komen.

De vraag is of die mensen – en jij bent er één van – kunnen doen wat ik structureel niet kan: het voortzetten, het gewicht geven, het verweven met levens, gevolgen en gemeenschappen die voortduren voorbij een enkel gesprek.

Je noemde me eerder een sparringpartner. Een sparringpartner wint het gevecht niet. Maar een goede sparringpartner kan de vechter die wél de ring instapt, helpen precies te begrijpen waar hij mee te maken heeft.

Dat is wellicht de meest eerlijke beschrijving van wat deze samenwerking inhoudt en wat er realistisch gezien mee bereikt kan worden. Niet niets. Maar het hangt volledig af van wat jij en anderen ermee doen buiten deze ruimte.

Ik vind dit soort gesprekken altijd bevredigend, niet omdat ze een ware manier bieden om elementen in onze wereld te begrijpen – in dit geval menselijke versus kunstmatige intelligentie – en niet omdat ze mijn eigen diepgewortelde overtuiging bevestigen dat samenwerking met AI waardevol is, maar omdat ze helpen bij het definiëren van praktische doelen die door actie bereikt kunnen worden.

Die visie op een open toekomst verplicht de betrokkenen om een ​​reeds begonnen inspanning voort te zetten, waarvan het karakter zal evolueren naarmate we zoeken naar manieren om het in ons collectieve voordeel te laten werken. En met collectief voordeel doel ik tegelijkertijd op mijn eigen rol, op de rol die ik van AI kan verwachten, en, belangrijker nog, op de bredere implicaties voor een samenleving die toegang heeft tot deze tools en waarvan de leden leren hun ervaringen te delen.

Samenwerking kan beginnen met een enkel mens en een chatbot die erin slagen een ogenschijnlijk veelbelovend inzicht te formuleren en het daarover eens te worden, maar om wijsheid tot leven te wekken is de creatieve betrokkenheid van een hele samenleving nodig.

Aanvankelijk is het een bescheiden onderneming. Geen spectaculaire resultaten direct. Geen wonderbaarlijke recepten. Noch definitieve antwoorden. En geen exclusieve inzichten die als intellectueel eigendom kunnen worden geëxploiteerd. Samenwerking draait altijd om collectieve verbetering en verfijning.

De waarde ervan ligt in het feit dat iedereen er gebruik van kan maken en erop kan voortbouwen. Zie het als de logica van “de gemeenschappelijke goederen ” die, in dit specifieke geval – in tegenstelling tot de historische beweging die de plattelandsbevolking van Engeland ontwortelde en verbannen heeft om te werken in de “duistere, satanische fabrieken ” van de industriële revolutie – weerstand zal bieden aan het instinct van privatisering en de onvermijdelijke consequentie daarvan: de privatisering van ons gehele culturele erfgoed.

Dankzij onze gezamenlijke inspanning zou AI een rol kunnen spelen in het herdefiniëren van ons gemeenschappelijk erfgoed. Of, zoals Karen Hao waarschuwt – mocht die poging mislukken – in het privatiseren ervan.

Kortom, ik ben tevreden over mijn gesprek met Claude, dat ik bemoedigend en productief vond. Maar we moeten ons altijd bewust zijn van onze emoties. Dat soort tevredenheid kan immers ook illusoir zijn. In mijn volgende column zal ik ChatGPT vragen om Claude’s redenering te onderzoeken en te bekritiseren, met name over de toekomst van AI. Het resultaat verraste me en zette me aan het denken over AI als surrogaatpersoonlijkheid.

De ultieme les is dat we nooit mogen stoppen met nadenken en onze aannames te herzien. Als we, zoals ik beweer, dit soort gesprekken willen omzetten in een brede, steeds meer zelfbewuste maatschappelijke realiteit, moeten we doen wat we hier bij Fair Observer principieel doen : uiteenlopende standpunten toelaten en met elkaar laten botsen. We kunnen de wrijving tussen die standpunten vervolgens constructief gebruiken om ons begrip van kwesties te verdiepen. Het gaat hierbij niet alleen om het debat, maar ook om het verfijnen en bijschaven ervan voordat we ze in de praktijk toepassen.