Is AI een cognitief virus?

Om hun carrière te versnellen, ondermijnen de giganten van de kunstmatige intelligentie AI  systematisch het meest fundamentele algemeen belang van de hele menselijke samenleving: ons cognitief vermogen.

AI  Ziet de collectieve menselijke cognitie – die we kort en bondig kunnen definiëren als het resultaat, op maatschappijniveau, van het vermogen tot rekenen en de reeks emotionele en gedragsmatige processen die inherent zijn aan onze neurobiologische structuren – hoe AI haar regeneratieve mechanismen vernietigt? 

In 2021 een rapport van François du Cluzel ¹ Het presenteert ‘cognitieve oorlogvoering’ als een volwaardige zesde dimensie, gelijkwaardig aan land, zee, lucht, ruimte en cyberspace. In 2024 publiceerde de NAVO haar eerste ontwikkelingsagenda, waarin de operationele planning voor meerdere domeinen cognitieve oorlogvoering integreert naast de andere vijf dimensies van oorlogvoering. ^2 3

Tegelijkertijd bevindt de wiskundige gemeenschap zich in een existentiële crisis met betrekking tot haar rol, haar toekomst en haar “toegevoegde waarde” in een wereld waarin AI al in staat is om zelfstandig problemen op te lossen die zich aan de grens van onze kennis bevinden (zoals het vermoeden van Erdős). ⁴ en om artikelen te schrijven die geschikt zijn voor publicatie in de meest prestigieuze tijdschriften. ⁵

Enerzijds ziet Fields Medal-winnaar Terence Tao een wereld van “vreugdevolle samenwerking” tussen mens en AI voor zich, die zal leiden tot steeds grotere hoeveelheden wiskunde. Anderzijds ziet de recentelijk met de Fields Medal bekroonde Jacob Tsimerman AI als het einde van de wiskunde (of zelfs de mensheid). Fatalistisch kondigt hij aan dat hij na het ontvangen van deze prijs, die echter wordt toegekend aan jonge onderzoekers om hun carrière een boost te geven, zijn onderzoek zal opgeven om zich bij OpenAI aan te sluiten. Voor hem is de enige optie echter om AI in te zetten om “van binnenuit” een positieve impact te hebben.

In deze context heeft de Amerikaanse onderzoeker Nolan Lovett onlangs een artikel gepubliceerd waarin hij reflecteert op hoe kunstmatige intelligentie onze “collectieve cognitie” “uitholt”. ⁶ Daarin doet hij een reeks voorspellingen over wat er zou gebeuren als de huidige koers zou worden aangehouden met dezelfde stimuleringsmechanismen en regelgeving.

Volgens hem wekt AI op de korte termijn de indruk dat het de menselijke cognitie en productiviteit verhoogt, maar dit is in werkelijkheid een illusie, aangezien het op de middellange en lange termijn onze collectieve cognitie zal aantasten, de regeneratie ervan zal belemmeren en de mensheid uiteindelijk zal terugwerpen. Het fenomeen, legt hij uit, is vergelijkbaar met overbevissing: op de korte termijn zijn er meer vissen en de illusie van vooruitgang, maar op de middellange en lange termijn blijven er geen vissen meer over.

Op de lange termijn, waarschuwt hij, zullen we zonder AI geen hersenen meer hebben die in staat zijn de Poisson-verdeling te begrijpen. Hij trekt een parallel tussen de uitputting van deze “collectieve cognitie” en de uitputting van natuurlijke hulpbronnen, zoals beschreven in 1968 door Garrett Hardin in zijn “Tragedy of the Commons ” . ⁷

Collectieve cognitie als gemeenschappelijk goed

Hardin beschrijft hoe rationele individuen die onafhankelijk en in hun eigen belang handelen, onvermijdelijk de collectieve hulpbronnen uitputten waarvan we allemaal afhankelijk zijn. Hij noemt dit “de tragedie van de commons”, gedefinieerd als hulpbronnen die voor iedereen toegankelijk zijn (niet-uitsluitbaar), maar waarvan het gebruik door één persoon de hoeveelheid die voor anderen beschikbaar is, en in het bijzonder voor “rivalen” of concurrenten, vermindert.

Hij onderscheidt twee niveaus van “gemeenschappelijke hulpbronnen”: de “draagkracht van de planeet” en natuurlijke hulpbronnen. Vanuit een modern perspectief zou men kritisch kunnen staan ​​tegenover het eerste niveau van commons dat hij voorstelt. Zijn obsessie met overbevolking en zijn felle kritiek op pronatalistische beleidsmaatregelen, die volgens hem “de kosten van voortplanting op de hele samenleving leggen”, zijn bijzonder slecht verouderd.

Het tweede niveau van ‘gemeenschappelijke goederen’ – natuurlijke hulpbronnen – trekt echter meer aandacht, en het is aan dit niveau dat Nolan Lovett ‘collectieve cognitie’ koppelt. De regeneratie van dit gemeenschappelijke goed zou juist bedreigd worden door AI, die de ruimtes en momenten van cognitieve wrijving waaruit het voortkomt, zou vernietigen.

AI elimineert instapfuncties, waarin expertise wordt aangescherpt door contact, soms hardhandig, met de realiteit van de beroepspraktijk binnen een bedrijf. Het vermindert ook de vaak pijnlijke leerprocessen van het verwerven van nieuwe vaardigheden door vallen en opstaan ​​en de intense wrijving die zich voordoet tijdens school en universiteit, door een onmiddellijke, vooraf afgemeten oplossing te bieden.

AI zou dus verantwoordelijk zijn voor een ’tragedie van collectieve cognitie’. Om het idee te ondersteunen dat collectieve cognitie een gemeenschappelijk goed is, schrijft de auteur er drie belangrijke kenmerken aan toe: het is afhankelijk van iedereen, het is niet exclusief en het raakt uitgeput zodra de regeneratieve capaciteiten ervan afnemen. 

Ten eerste is collectieve kennis afhankelijk van iedereen. Een organisatie die personeel wil werven, vertrouwt op een collectief opgebouwde talentenpool. Vandaar het ‘meeliftprobleem’: elke organisatie profiteert van het inhuren van experts uit deze talentenpool, maar heeft geen prikkel om zelf de kosten te dragen voor het ontwikkelen van nieuw talent, omdat concurrenten, die geen middelen zouden hebben geïnvesteerd, er ook van zouden profiteren.

Ten tweede is collectieve kennis niet exclusief. Geen enkele organisatie kan gemakkelijk voorkomen dat concurrenten ervan profiteren. De mobiliteit van experts en de veelheid aan kennisoverdrachtskanalen zorgen ervoor dat degenen die niet bijdragen aan de pool er uiteindelijk toch van zullen profiteren. In 1965 toonde Olson aan dat een dergelijke configuratie de ‘meelifter’ beloont. Ten slotte, ten derde, raakt collectieve kennis uitgeput als het vermogen om deze te regenereren verloren gaat. Dit is ongetwijfeld het belangrijkste punt.

Net zoals natuurlijke hulpbronnen uitgeput raken door overexploitatie en winning die hun regeneratievermogen overstijgt, verdwijnt collectieve cognitie door de vernietiging van haar regeneratieve mechanismen. De komst van AI op de werkvloer vernietigt zowel banen als de regeneratieve mechanismen van collectieve cognitie.

Hoewel deze zorg terecht is, is het focussen op de potentiële vernietiging van banen ten koste van deze mechanismen slechts het topje van de ijsberg. Recente studies tonen een systematische eliminatie van instapfuncties aan, wat veel waarnemers en beleidsmakers beschouwen als een simpele arbeidsmarktaanpassing, vergelijkbaar met die veroorzaakt door eerdere automatiseringsgolven, zonder rekening te houden met de impact op de regeneratie van collectieve cognitie.

Cognitieve oorlogsvoering en horizontaliteit met AI: de rol van collectieve cognitie

In een wereld na AI, welk doel dient collectieve cognitie nog? Waarom zouden we ons zorgen maken over de “tragedie van collectieve cognitie”? Van de vele redenen verdienen er twee een nadere beschouwing. De eerste betreft “cognitieve oorlogsvoering”, die al eerder is genoemd en door de NAVO gelijkgesteld aan andere dimensies van moderne conflicten. Informatieoorlogsvoering is erop gericht de toegang tot betrouwbare informatie te belemmeren en een vertekend beeld van de werkelijkheid te creëren.

Psychologische oorlogsvoering richt zich op een specifieke groep mensen en exploiteert hun kwetsbaarheden om een ​​strategisch militair doel te bereiken. Cognitieve oorlogsvoering daarentegen valt de mentale en gedragsmatige processen van informatieanalyse en -interpretatie, besluitvorming en het beheersen van emoties en impulsen aan.

Door een steeds groter deel van onze cognitieve processen – zowel emotionele als intellectuele – aan AI over te laten (denk bijvoorbeeld aan het toenemende aantal mensen dat hun persoonlijke dilemma’s, angsten en meest intieme ervaringen aan AI toevertrouwt), maken we onszelf kwetsbaar voor manipulatie. Nolan Lovett richt zich op de aspecten “ervaring” en “intellectuele vaardigheden” van collectieve cognitie, maar dit concept kan worden uitgebreid met een nieuw aspect: “empathie, emotiebeheersing en menselijke relationele vaardigheden.” 

Net als Lovett, die een gevaar ziet voor de regeneratie van collectieve “expert”-cognitie in de verdeling van juniorfuncties die jonge professionals de kans geven zich te ontwikkelen, kunnen we hetzelfde lot vrezen voor de “emotionele” component ervan. Menselijke interacties zonder de tussenkomst van AI of sociale media worden immers steeds schaarser onder jongeren onder de 30. Naast de gevolgen voor de geestelijke gezondheid, maakt deze situatie hen kwetsbaar voor mogelijke doelbewuste manipulatie door algoritmes, met als expliciet doel maximale emotionele chaos in een bevolking te veroorzaken, waardoor deze niet meer in staat is te reageren op een crisis of aanval.

De tweede belangrijke functie van collectieve cognitie die Lovett onderzoekt, betreft de aard van interacties met AI en het vermogen om op gelijke voet te interageren. Hoe zou iemand die alleen iets met behulp van AI kan doen, een kritische blik kunnen werpen op de output van de machine?

Wat zou er op maatschappelijk niveau gebeuren als iedereen zou stoppen met het leren uitvoeren van een taak zonder AI-ondersteuning op de dag dat deze faalt of wordt ingetrokken, zoals gebeurde met de eerste publieke versie van Fable 5 tijdens de regering-Trump? Erger nog, wat zou er gebeuren op de dag dat AI op een gematigde en subtiele manier begint te hallucineren – genoeg om schade aan te richten, maar niet genoeg om opgemerkt te worden door iemand die nooit heeft geleerd om zonder AI te functioneren?

Deze vraag ligt ook ten grondslag aan de huidige spanningen binnen de wiskundige gemeenschap: AI maakt de snelle productie van een groot aantal zeer waardevolle resultaten mogelijk, maar het zijn juist die lange, moeizame, pijnlijke en frustrerende processen van langzaam wiskundig onderzoek die de creativiteit van de slimste geesten hebben gevormd. Net als in veel andere disciplines geldt wat waar is in de wiskunde ook voor veel andere vakgebieden. 

Elinor Ostrom en polycentrisch bestuur

Is de tragedie van de commons onvermijdelijk? In 1990 beantwoordde Elinor Ostrom, winnares van de Nobelprijs voor Economie in 2009, deze vraag ontkennend en stelde een benadering voor die gebaseerd is op de observatie van gemeenschappen die gemeenschappelijke hulpbronnen benutten zonder deze uit te putten. Hieruit trok ze een reeks lessen die de basis vormen van een polycentrisch bestuursmodel dat de duurzaamheid van de commons garandeert. Dit bestuursmodel berust op acht kernprincipes:

1. Duidelijke grenzen: iedereen weet welke middelen hij of zij mag gebruiken en in welke mate.
2. Een proportionele equivalentie die aanpassing aan verschillende lokale bijzonderheden mogelijk maakt.
3. Overeenkomsten die voortvloeien uit collectieve beslissingen: degenen die door de regels worden geraakt, zijn degenen die ze kunnen wijzigen.
4. Actieve monitoring: zowel de bron als de gebruikers ervan moeten actief worden gemonitord, en degenen die verantwoordelijk zijn voor deze monitoring moeten verantwoording afleggen aan de gemeenschap die van die bron afhankelijk is.
5. Geleidelijke sancties: het is noodzakelijk om straffen vast te stellen die zijn afgestemd op de verschillende mogelijke overtredingen met betrekking tot de betreffende hulpbron.
6. Mechanismen voor conflictoplossing: de gemeenschap die afhankelijk is van de hulpbron moet beschikken over instanties en processen die het mogelijk maken geschillen snel en economisch te beslechten, zodat ze kunnen worden opgelost voordat ze escaleren.
7. De minimale erkenning van het recht op organisatie: externe instanties moeten het recht van gebruikers om hun eigen instellingen op te richten erkennen. 
8. Onderling samenhangende niveaus: Bij grootschalige hulpbronnen moet het bestuur op verschillende onderling samenhangende niveaus worden georganiseerd (lokaal, regionaal, nationaal). Dit staat bekend als polycentrisch bestuur.

Nolan Lovett past deze principes toe op de “tragedie van het algemene denken” en leidt daaruit drie onderling samenhangende actieniveaus af: 

1. Op organisatieniveau: elke organisatie kan bijvoorbeeld “AI-vrije leeromgevingen” creëren of een onboardingproces voor nieuwe medewerkers opzetten dat geleidelijke toegang tot alle AI-tools omvat.
2. Het takenpakket van beroepsverenigingen (Artsenvereniging, Orde van Advocaten, Kamer van Koophandel, enz.): bijvoorbeeld bij nascholing of het verlenen van certificaten of vergunningen, waarbij een periode van praktijkervaring zonder AI of het afleggen van examens zonder AI vereist is.
3. De publieke sector: bijvoorbeeld door subsidies of belastingvoordelen te verlenen aan bedrijven die de werkgelegenheid in stand houden.