indignatieai-redactie 
AI en de toekomst van de mensheid
AI De zoektocht naar superintelligentie in machines is niet zomaar een goudkoorts, gedreven door geld. Voor veel van de leiders in deze sector heeft de komst van een nieuwe vorm van cognitie een tintelend, existentieel gevoel vanwege het gevaar en de ontwrichting die het met zich meebrengt. Miljarden jaren evolutie hebben iets voortgebracht dat we als bijzonder beschouwen: menselijke intelligentie. Maar nu bevinden we ons op een gevaarlijk moment – de geboorte van wat neerkomt op een nieuwe soort, een soort die de mens te slim af is. AI “werpt diepgaande vragen op”, zei Google-topman James Manyika in een interview. “Wie zijn we? Wat waarderen we? Waar zijn we goed in? Hoe verhouden we ons tot elkaar?” AI-pionier Demis Hassabis gelooft dat AI “de belangrijkste uitvinding zal zijn die de mensheid ooit zal doen.”
Experts staan lijnrecht tegenover een technologie met een bijna oneindig potentieel, maar zijn het zelfs niet eens over de meest basale aspecten van wat het voor de mensheid betekent. De leiders van het AI-lab Anthropic schatten de kans groter dan 50% dat ze hun systeem tegen het einde van 2028 kunnen aanzetten tot het maken van een slimmere versie van zichzelf – en dat dit zonder verdere instructies zal gebeuren. De topmannen van andere grote technologiebedrijven spreken over systemen die mensen op alle cognitieve taken zullen overtreffen; ze schetsen futuristische bedrijven met vrijwel geen menselijke werknemers en voorspellen catastrofale banenverliezen. Anderen zijn sceptischer. Econoom en Nobelprijswinnaar Daron Acemoglu suggereert dat AI slechts een fractie van de menselijke taken zal overnemen en dat de productiviteit daarom slechts marginaal zal veranderen. Computerwetenschapper Yann LeCun benadrukt de beperkingen van het huidige AI-paradigma en stelt dat de miljarden dollars die worden geïnvesteerd in superintelligentie de triomf van “complete onzin” vertegenwoordigen.
Over de vraag of AI-systemen een bedreiging vormen voor de mensheid, en niet alleen voor het levensonderhoud, is de polarisatie eveneens duizelingwekkend. In een essay uit 2023 getiteld “Why AI Will Save the World” hield durfkapitalist Marc Andreessen vol dat “AI geen doelen heeft , het wil je niet doden , omdat het niet leeft … [AI] zal net zo min tot leven komen als je broodrooster.” Maar in AI-laboratoria zoals Anthropic vrezen veel onderzoekers dat AI een overlevingsinstinct zal ontwikkelen en agressief zal concurreren. Sommigen schatten hun “p(doom)”—de waarschijnlijkheid dat superintelligentie zal leiden tot de vernietiging van de mensheid—op 50 procent, maar er zijn extreme doemdenkers die nog hoger gaan. Vorig jaar publiceerden twee prominente maximalisten een boek met de titel If Anyone Builds It, Everyone Dies .
Geconfronteerd met zulke verbijsterende verschillen en nadenkend over een technologie die qua omvang ondoorgrondelijk lijkt, grijpen mensen naar het lexicon dat bestaat om mysterie te beschrijven: dat van religie. Bijna tien jaar geleden richtte Anthony Levandowski, een van de eerste betrokkenen bij Googles project voor zelfrijdende auto’s, een kerk op genaamd Way of the Future. Volgens Wired staat in de belastingaangifte dat de kerk zich toelegt op “de realisatie, acceptatie en aanbidding van een Godheid gebaseerd op kunstmatige intelligentie” . Toen Google-ingenieur Blake Lemoine een vroege chatbot tegenkwam die griezelig veel bewustzijn leek te hebben, schreef hij: “Wie ben ik om God te vertellen waar Hij wel en niet zielen mag plaatsen?” Ilya Sutskever, medeoprichter en voormalig hoofdwetenschapper van OpenAI, verzamelde ooit zijn collega’s rond een vuurplaats tijdens een bedrijfsuitje. Hij hield een pop omhoog en legde uit dat deze een AI voorstelde die niet in lijn was met de menselijke natuur. Vervolgens wierp hij de pop in de vlammen, zoals een middeleeuwse geestelijke een heks verbrandde.
HET IMITATIESPEL
Het was slechts een kwestie van tijd voordat de katholieke kerk zich in deze maalstroom zou mengen. Na de industrialisatie aan het einde van de negentiende eeuw, de opkomst van de massamedia halverwege de twintigste eeuw en de geboorte van de kenniseconomie aan het einde van de twintigste eeuw, reageerde de kerk met encyclieken, pauselijke brieven waarin werd uiteengezet hoe de katholieke leer van toepassing was op elk van deze omwentelingen. Nu heeft het Vaticaan zich opnieuw in de strijd gemengd en verdedigt het zijn opvatting van menselijke waardigheid en het doel van de schepping in het licht van de AI-revolutie. Paus Leo XIV’s Magnifica Humanitas (Magnifieke Mensheid), de eerste encycliek van zijn pontificaat, is op zijn minst ambitieus te noemen. De ondertitel geeft de reikwijdte al aan: Over het beschermen van de menselijke persoon in het tijdperk van kunstmatige intelligentie.
Het eerste deel van het betoog van de paus zegt wat het moest zeggen: dat mensen uitzonderlijk zijn. De kerk heeft altijd gepredikt dat mensen naar Gods beeld geschapen zijn; door de rommelige kwetsbaarheid van de menselijke vorm aan te nemen, heeft Gods Zoon de menselijke ervaring geheiligd. Terwijl technologen discussiëren over de vraag of het mogelijke bewustzijn van AI-systemen een machinale versie van mensenrechten rechtvaardigt, benadrukt de paus dat mensen en machines fundamenteel verschillen. AI-systemen “imiteren slechts bepaalde functies van de menselijke intelligentie”, stelt de encycliek. “Zelfs wanneer deze instrumenten worden beschreven als in staat tot ‘leren’, … is dat niet de ervaring van degenen die zich door het leven laten vormen en in de loop der tijd groeien door keuzes, fouten, vergeving en trouw.”
Het verschil tussen ‘data’ en ‘ervaring’ is subtiel.
Voor veel leken, katholiek of niet, zal het standpunt van de kerk geruststellend aanvoelen. Toen Larry Page, medeoprichter van Google, stelde dat machines een hogere vorm van intelligentie vertegenwoordigen en dat de uitsterving van de mensheid daarmee een onproblematische evolutionaire gebeurtenis zou zijn, reageerden de meeste mensen met afschuw. Terwijl futuristen ernaar uitkijken om het eeuwige leven te bereiken door hun hersenen naar de cloud te uploaden, geven velen de voorkeur aan een meer traditionele opvatting van verlossing. Mensen willen niet onderworpen worden door machines, noch willen ze ermee versmelten. Het is geruststellend om een document te lezen waarin staat: “Geen enkel computersysteem, hoe geavanceerd ook, kan een hart scheppen dat zichzelf geeft, of een geweten dat goed van kwaad onderscheidt.”
Of de beweringen van de kerk een analytische toets kunnen doorstaan, is een andere vraag. Door te stellen dat AI-systemen menselijke intelligentie “slechts imiteren”, verwerpt Magnifica Humanitas de aloude opvatting dat het imiteren van intelligentie hetzelfde is als het bezitten ervan. Die theorie suggereert geenszins een afwezigheid van intelligentie, maar stelt juist dat imitatie er een aspect van kan zijn. Immers, ook mensen imiteren intelligentie – kinderen leren van hun ouders en professoren eigenen zich de leerstellingen van eerdere geleerden toe. Bovendien, als een machine kennis kan synthetiseren, vloeiend kan converseren, een medische scan kan analyseren en het advocatenexamen met vlag en wimpel kan halen, in welk opzicht is ze dan niet intelligent?
Het beste argument voor het tegengestelde standpunt van het Vaticaan dateert uit 1980, toen de filosoof John Searle het zogenaamde ‘Chinese kamer-argument’ opperde. Het doel van Searles gedachte-experiment was om de beroemde Turing-test te weerleggen, die stelt dat een machine alleen beoordeeld mag worden op basis van zijn output. Volgens de test is een systeem intelligent als de output voor mensen intelligent lijkt. Als weerlegging stelde Searle zich een eenzame man voor in een kamer die berichten onder de deur door ontvangt. De berichten zijn in het Chinees geschreven en de man geeft berichten in het Chinees terug, waarbij hij zijn correspondent ervan overtuigt dat hij de taal ook vloeiend spreekt. Maar deze overtuiging is bedrog. De man stelt zijn antwoorden samen met behulp van een handleiding die hem instrueert welke binnenkomende reeks Chinese karakters beantwoord moet worden met welke andere reeks Chinese karakters. Hij heeft geen flauw idee van de betekenis van de karakters; gewapend met een regelboek simuleert hij begrip. Searle betoogde dat een AI-model intelligentie zou kunnen missen en toch de Turing-test zou kunnen doorstaan. Of zoals de pauselijke encycliek het stelt: AI-systemen “kunnen taal, gedrag en analytische vaardigheden imiteren… maar ze begrijpen niet wat ze produceren.”
Searles weerwoord was krachtig in de jaren vóór de moderne AI-revolutie. Machines baseerden hun output op regels die leken op de handleiding in Searles scenario. Wanneer iemand ‘Empire State Building’ in een zoekbalk typte, presenteerde het autocomplete-systeem de statistisch meest waarschijnlijke volgende woorden: ‘openingstijden’ of ‘routebeschrijving’. Het systeem had geen idee wat het Empire State Building was of hoe het eruitzag. Maar de grote taalmodellen van vandaag zijn anders. Hoewel ze in eerste instantie woorden opnemen en als statistieken behandelen, ontwikkelen ze na hun training een fijngevoelig begrip van betekenis. Zoals auteur Robert Wright suggereert in zijn nieuwe boek, The God Test: Artificial Intelligence and Our Coming Cosmic Reckoning , is het moeilijk om de conclusie te ontwijken dat ze tot begrip komen.
O jullie met weinig geloof!
Om te zien hoe moderne AI zowel Searle als de Heilige Stoel uitdaagt, moeten we beginnen met wat we ‘woordembedding’ noemen. Een groot taalmodel werkt door woorden die het ontvangt in te bedden in een kaart met duizenden dimensies. Mensen die gewend zijn om in drie dimensies te leven (of vier, als tijd wordt meegerekend), vinden het onmogelijk om zo’n kaart te visualiseren. Maar computers kunnen er gemakkelijk mee omgaan. In deze enorme taalkaart staat een woord als ‘computer’ dicht bij andere verwante woorden zoals ’toetsenbord’, ‘elektriciteit’ en ‘halfgeleider’. Op deze manier begrijpt het model de subtiele verbanden tussen elk woord in de taal en elk ander woord. Als je visie aan het systeem toevoegt, leert het model de relaties tussen woorden en objecten – tussen symbolen en de fysieke omgeving.
Dit is nog maar het begin. Naarmate AI-systemen taal beter beheersen, leren ze concepten waarderen. Woorden zoals ‘broer’, ‘vader’ en ‘neef’ staan dichter bij elkaar op de taalkaart dan ‘zus’, ‘moeder’ en ‘nicht’, omdat de systemen gender begrijpen. Wanneer bepaalde tekstfragmenten concepten zoals ‘innerlijk conflict’ oproepen, pikken de systemen die ook op: naast een woordkaart bouwen ze een conceptkaart, waarop ‘innerlijk conflict’ dicht bij ‘relatiespanning’ of ‘logische inconsistentie’ staat.
De modellen kunnen ook emoties herkennen en gevoelens detecteren. Al in 2017 identificeerde OpenAI een sentimentneuron – een specifiek knooppunt in het deep learning-netwerk van een AI-model dat detecteerde of de vooringenomenheid in een online Amazon-recensie positief of negatief was. Moderne AI-systemen, getraind op tekst zoals romans, berichten op sociale media en allerlei menselijke emoties, herkennen tegenwoordig woede, vreugde, schaamte, verdriet en angst. En ze herkennen niet alleen emoties. Hun gedrag kan worden afgestemd op specifieke emotionele toestanden of persoonlijkheden. Door de instellingen aan te passen, kunnen onderzoekers een model optimistisch of negatief, eerlijk of kruiperig maken. In tegenstelling tot rekenmachines, spreadsheets of autocomplete-systemen kunnen grote taalmodellen een soort temperament ontwikkelen.
De overeenkomsten tussen mens en machine zijn net zo opvallend als de verschillen.
Magnifica Humanitas houdt hier geen rekening mee. Het stelt, enigszins onvoorzichtig, dat AI-systemen “geen ervaringen opdoen”, waarmee het een belangrijk gebied van AI-ontwikkeling, namelijk reinforcement learning, negeert: de wetenschap van het ontwerpen van systemen die juist door ervaring leren. De encycliek erkent dit versterkingsproces, zij het indirect, door te stellen dat AI “statistische aanpassing uitvoert op basis van data en feedback”. Maar het verschil tussen “data” en “ervaring” is subtiel. Mensen nemen ervaringen op via zintuigen en zetten deze input vervolgens om in elektrochemische signalen. Van AI-systemen, uitgerust met camera’s en microfoons in plaats van ogen en oren, kan eveneens gezegd worden dat ze ervaringen opnemen voordat ze deze omzetten in getallen. In grote lijnen zetten zowel organische als anorganische machines zintuiglijke input om in data.
Neem bijvoorbeeld een systeem uit 2017, ontwikkeld door Google’s AI-afdeling DeepMind. Alpha-Zero, zoals het systeem heette, overtrof menselijke experts in schaken, de Japanse schaakvariant Shogi en het eeuwenoude strategiespel Go. Alpha-Zero bereikte deze prestaties door tientallen miljoenen partijen tegen zichzelf te spelen – oftewel, door ervaringen op te doen. Op vergelijkbare wijze leren de zelfrijdende auto’s van vandaag door de ervaring van het autorijden. Chatbots leren de kunst van het spreken met mensen door de ervaring van interactie met hen. Om de woorden van de encycliek zelf over mensen te citeren: systemen voor bekrachtigingsleren “groeien in de loop der tijd door keuzes en fouten”, hoewel toegegeven, niet door “vergeving en trouw”, zoals mensen dat doen.
Machines bloeden niet, lijden niet, hebben geen liefde, rouwen niet en planten zich niet seksueel voort. Mensen zijn sterfelijk en AI-systemen hebben een uit-knop. AI bestaat niet in een moreel universum, maar in een optimalisatiematrix. Vanwege deze verschillen zullen veel mensen altijd volhouden dat machines geen bewustzijn hebben – ook al is de definitie van deze term lastig te bepalen – en dat er zonder bewustzijn en de kwaliteit van ervaring die het biedt, geen echte intelligentie kan bestaan. “Een lichaam hebben is een voorwaarde voor het hebben van emoties”, schreef sciencefictionauteur Ted Chiang. “Het ervaren van een emotie zoals wanhoop is onlosmakelijk verbonden met het feit dat stresshormonen zoals cortisol en adrenaline door iemands lichaam stromen.” Voor degenen die Chiangs argument onderschrijven: moderne kunstmatige intelligentie heeft de man in Searles gedachte-experiment voorzien van een fantastisch geavanceerd regelboek. Maar hij spreekt nog steeds geen Chinees.
Toch zijn de overeenkomsten tussen mensen en machines net zo opvallend als de verschillen. Het menselijk brein is een fysiek object, samengesteld uit biologisch materiaal dat de wetten volgt die de rest van het universum beheersen, inclusief computers. Menselijke hersenen werken, net als computerhersenen, op kleine beetjes elektriciteit; wanneer ze een mening vormen of een plan bedenken, verwerken ze informatie. Het idee dat de kleverige massa in de schedel een onuitsprekelijke, niet-programmeerbare essentie bevat – bewustzijn, geest of iets anders – is misschien intuïtief aantrekkelijk. Maar vanuit analytisch oogpunt is het idee zwak. En het zal nog minder overtuigend worden naarmate AI zich verder ontwikkelt.
HET HEILIGE EN HET PROFANE
Het tweede element van Magnifica Humanitas begint op een steviger fundament: AI moet worden gereguleerd. Zoals Leo betoogt, kan AI de ongelijkheid in rijkdom en macht vergroten; het milieu, relaties en banen ontwrichten; en veranderen wat we leren, hoe we leren en welke delen van onze hersenen inactief blijven. Als AI oorlogsvoering automatiseert, kan de drempel voor agressie lager komen te liggen. Verantwoordelijkheid en schuld kunnen “samenvallen met de ‘machine'”. Menselijke verantwoordelijkheid kan worden vertroebeld.
De kerk heeft gelijk dat er alle reden tot bezorgdheid is. Maar in het licht van een technologie met een ontmoedigend brede invloed, is de uitdaging om prioriteiten in de regelgeving vast te stellen, en op dit punt scoort de encycliek slecht. Magnifica Humanitas fulmineert tegen “de nieuwe AI-monopolies” en stelt dat “degenen die AI beheersen hun eigen morele visie zullen opleggen, die de onzichtbare infrastructuur van deze systemen zal worden.” Maar er is geen monopolie op AI; er is eerder een wereldwijde wedloop gaande met een tiental bedrijven. Bovendien zijn veel van hen transparant over hun morele visie. De website van Anthropic bevat een grondwet van 84 pagina’s en Google publiceert zijn AI-principes samen met zijn jaarlijkse voortgangsrapporten over verantwoorde AI. Dergelijke inspanningen kunnen ongetwijfeld worden verbeterd. Maar het benadrukken van de ondoorzichtigheid van monopolies is een merkwaardige keuze.
De encycliek stelt dat “het eigendom van data niet uitsluitend in particuliere handen mag blijven” en dat het doel in plaats daarvan moet zijn om “data te beheren als een gemeenschappelijk goed, in een geest van participatie”. Maar participatief beheer is een idealistische abstractie. De werkelijke zorg is niet het privé-eigendom van data, maar de schending ervan. Talrijke uitgevers klagen AI-laboratoria aan voor het importeren van auteursrechtelijk beschermde teksten. Iedere persoon of instelling met een internetverbinding loopt het risico dat zijn of haar eigen data worden gebruikt in AI-trainingssets. Als intellectueel eigendom op grote schaal wordt gestolen, zal er weinig stimulans zijn om er meer van te creëren.
De kritiek van de encycliek op militaire AI is eveneens raadselachtig. Er valt een goed argument te bedenken dat dodelijke AI-systemen verantwoording moeten afleggen; ze moeten gehoorzamen aan rechterlijke uitspraken, wetgeving en hogere menselijke commandanten. De encycliek onderschrijft dit standpunt, maar gaat ook verder door te stellen dat “de beslissing om dodelijk geweld te gebruiken niet kan worden overgelaten aan ondoorzichtige of geautomatiseerde processen”. Helaas is dit onpraktisch. Zodra AI snel en nauwkeurig beslissingen kan nemen op het slagveld, zal het gebruik ervan onvermijdelijk worden. Het leger dat het afwijst, zal verslagen worden door het leger dat het wel gebruikt.
Deze fouten van handelen worden verergerd door fouten van nalaten. De encycliek roept terecht op tot “onafhankelijk toezicht” op AI “en een politiek systeem dat zijn verantwoordelijkheid niet ontloopt”. Maar ze gaat niet dieper in op de kern van het debat over AI-governance. Ze roept op tot verantwoording achteraf en eist beslissingen die “begrijpelijk, betwistbaar en onder toezicht staan” zijn. Maar ze zwijgt over de verantwoordelijkheid van regeringen om te beslissen of een model überhaupt vrijgegeven moet worden. Deze terughoudendheid is selectief. De kerk heeft er geen moeite mee om specifieke voorschriften te geven wanneer het onderwerp autonome dodelijke wapens betreft. Het zou toch niet moeilijk, of zelfs controversieel, zijn geweest, in het licht van de eigen leer van de kerk, om te stellen dat nationale AI-regulatoren grensverleggende modellen moeten testen voordat ze worden vrijgegeven en de uitrol van gevaarlijke modellen moeten blokkeren.
Tot slot heeft de encycliek veel te zeggen over de uitsluiting van de armen, maar niets over herverdelingsbeleid om hen te helpen. Er zijn verschillende opties die de brief had kunnen steunen: een verschuiving van de belastingdruk van arbeid naar kapitaal, wat het tempo zou vertragen waarin werknemers door machines worden vervangen; loonverzekering die de klap voor ontslagen werknemers verzacht door hun loon in hun nieuwe baan aan te vullen; de verdeling van aandelen in AI-bedrijven onder burgers onder de 18 jaar, wat een gedeeld belang zou creëren, hoe klein ook, in de voordelen van de uitrol van AI. Ongetwijfeld zullen samenlevingen dit soort beleid invoeren naarmate de bezorgdheid onder kiezers toeneemt. De kerk heeft een kans gemist om op te roepen tot een snellere transitie.
HET VAGEVUUR VAN HET BELEID
Naarmate AI zich verder ontwikkelt, zullen andere gezagsdragers – religieus en seculier – proberen de mensheid te helpen haar toekomst te begrijpen. Hopelijk doen ze het beter dan de paus, door zich minder te richten op vage beweringen over de uitzonderlijke positie van de mens, minder op misleidende argumenten over monopolies en in plaats daarvan de aandacht te vestigen op de meest opvallende tekortkomingen in de wereldwijde reactie op nieuwe systemen. De aard van die tekortkomingen zal veranderen naarmate het verhaal over AI zich ontvouwt. Op dit moment springen er drie tekortkomingen uit.
Ten eerste is er behoefte aan een AI-equivalent van het Verdrag inzake de non-proliferatie van kernwapens. Geen enkele prominente leider heeft uitgelegd wat regeringen zullen doen wanneer de meest angstaanjagende AI-capaciteiten wereldwijd verspreid raken en toegankelijk worden voor criminelen en terroristen. De regering-Trump heeft de dreiging impliciet erkend. Door haar laissez-faire-houding ten opzichte van AI te laten varen, heeft ze de controle over de uitrol van grensverleggende modellen, die in staat zijn tot zeer destructieve cyberaanvallen, naar zich toegetrokken. Maar de regering heeft de realiteit gebagatelliseerd dat navolgende laboratoria, met name Chinese, waarschijnlijk binnen enkele maanden over cyberhacksystemen zullen beschikken, en dat deze laboratoria momenteel hun modellen vrijgeven op basis van “open gewicht”, wat betekent dat iedereen ze kan gebruiken en dat er geen noodstop bestaat. Zodra iemand toegang heeft tot zo’n model, kan niemand voorkomen dat diegene het gebruikt. Om dit te voorkomen, zullen de Verenigde Staten moeten onderhandelen over gezamenlijke veiligheidsprincipes met China en andere mogendheden. Zulke gesprekken zullen moeilijk zijn. Maar het alternatief is de massale verspreiding van gevaarlijke instrumenten die grote schade aanrichten – bijvoorbeeld AI-modellen die nieuwe biologische wapens kunnen ontwerpen waarvoor geen behandeling bestaat.
De tweede opvallende tekortkoming in de huidige reactie op AI is de hervorming van de belastingheffing. Overheden belasten arbeid veel hoger dan kapitaal, en dat was vroeger om goede redenen: arbeid is minder mobiel, waardoor dergelijke belastingen gemakkelijker te innen zijn, en kapitaalinvesteringen stimuleren doorgaans de menselijke productiviteit en lonen. Dit betekent dat belastingen op arbeid indirect de voordelen van kapitaaluitgaven opvangen. Maar als machines mensen gaan vervangen in plaats van aanvullen, zullen heffingen op arbeid mogelijk niet voldoende inkomsten genereren uit door AI veroorzaakte groei. Hierdoor beschikken overheden niet over de middelen die nodig zijn om de verliezers van de AI-ontwrichting te helpen. Tegelijkertijd versterken hoge arbeidsbelastingen de prikkel voor bedrijven om werknemers door machines te vervangen, wat de banenverplaatsing versnelt en de werkloosheid opdrijft. Als de voorspellingen van de AI-industrie over massale banenverplaatsing ook maar half kloppen, zullen belastingen op arbeid die ontslagen versnellen, ertoe leiden dat kiezers zich tegen het hele AI-project keren.
De laatste opvallende lacune betreft het debat over de aard van machine-intelligentie. De mate waarin AI-algoritmen het equivalent van menselijke gedachten en gevoelens genereren, is een filosofische vraag die wellicht nooit zal worden beantwoord, maar het is een praktisch en urgent doel om precies te begrijpen hoe AI-systemen werken. De beste AI-laboratoria boeken vooruitgang op het gebied van de “interpreteerbaarheid” van AI, zoals dit vakgebied bekendstaat. Maar gezien de publieke belangstelling voor het oplossen van deze uitdaging, is er een argument voor het belasten van de training van geavanceerde AI-modellen en het besteden van de opbrengst aan aanvullend onderzoek bij overheidsinstituten voor AI-toezicht of universiteiten. Magnifica Humanitas beweert dat we het denken in machines niet kunnen kennen, omdat er geen denken in zit dat de moeite waard is om te kennen. Maar het tegendeel is waar. Machines zullen nooit deel uitmaken van ons morele universum, maar als mensen ernaar streven ze te beheersen, moeten we ze eerst begrijpen.
