Kunstmatige intelligentie AI roept fundamentele morele vragen op – vragen waar de hele mensheid een antwoord op moet geven.

Word je bij de grens gecontroleerd? Wordt je hypotheekaanvraag goedgekeurd? In oorlogstijd, wiens buurt zou het doelwit zijn van een wapensysteem? Dit zijn morele keuzes – over schade en rechtvaardigheid – en vroeger werden die door mensen gemaakt.

Morele keuzes zoals deze worden tegenwoordig gemaakt door kunstmatige intelligentie (AI) en door de bedrijven die deze ontwikkelen. Niet door de overheid, niet door het publiek, maar door bedrijven.

Chris Olah, medeoprichter van het AI-bedrijf Anthropic en een zelfverklaard atheïst, zat onlangs naast paus Leo XIV in het Vaticaan en zei dat zijn eigen sector niet te vertrouwen is om zichzelf te besturen . “Sommigen denken misschien dat AI-vraagstukken het best kunnen worden afgehandeld door computerwetenschappers zoals ik,” zei hij. “Ze hebben het mis.”

Olah herhaalde daarmee de woorden uit de eerste encycliek van de paus, Magnifica Humanitas: Over de bescherming van de mens in het tijdperk van kunstmatige intelligentie , waarin wordt gewaarschuwd dat AI de mensheid moet dienen in plaats van macht te concentreren.

Het is duidelijk dat AI een onafhankelijke toezichthouder nodig heeft met de bevoegdheid om nee te zeggen, net zoals autoriteiten een nieuw medicijn kunnen weigeren of een kernreactor kunnen blokkeren . Gewone mensen, niet alleen technische experts, moeten de morele normen bepalen die deze toezichthouder handhaaft.

Moraliteit in sneltempo

Ontwikkelaars zijn niet per se onzorgvuldig of cynisch. Ons onderzoek toont aan dat veel AI-ontwikkelaars de morele aspecten van hun werk diepgaand in twijfel trekken, terwijl ze tegelijkertijd erkennen dat de druk die erop rust, deze zorgen naar de achtergrond kan verdringen.

Het is moeilijk om moreel standvastig te blijven binnen een bedrijf dat is ontworpen om snel te handelen .

Als onderzoekers op het gebied van digitale technologie hebben we een naam voor het personeel dat is ingehuurd om deze spanning te beheersen : “ethische beheerders”. Dit zijn de mensen die de taak hebben om te reageren op kritiek van buitenaf, terwijl ze volledig binnen het bedrijf blijven dat de kritiek uitlokt.

Deskundigen op het gebied van technologie-ethiek stellen ook dat de ethiek rondom AI in het bedrijfsleven kan verharden tot een ‘deugdeconomie’ – een marktplaats van ethische vaardigheden, kennis en goedkeuringen die bedrijven moeten verwerven om critici het zwijgen op te leggen en regelgeving af te weren.

De lancering van Magnifica Humanitas en de toespraak van Olah kwamen op een goed moment. Overheden over de hele wereld stellen momenteel de regels op voor AI . Canada heeft onlangs een federale AI voor Iedereen-strategie gelanceerd , met weinig aandacht voor veiligheid of ethiek , laat staan ​​een discussie over wie de moeilijkere morele vraagstukken zal moeten beslissen.

De correctie moet van buitenaf komen. Het publiek moet een stem hebben.

‘Participatie-washing’-risico’s

Er bestaan ​​al experimenten. Anthropic nodigde zo’n 1000 Amerikanen uit om mee te helpen de regels te schrijven voor een versie van hun AI-chatbot Claude in een project genaamd Collective Constitutional AI .

Onderzoekers op het gebied van burgerparticipatie hebben burgervergaderingen – groepen willekeurig geselecteerde mensen die een probleem bestuderen en gezamenlijke aanbevelingen formuleren – bestudeerd als een manier om gevoelige kwesties zoals abortuswetgeving en dakloosheid aan te pakken. Ze bieden perspectief voor publieke participatie in het bestuur van AI.

Toch leiden deze oefeningen zelden tot daadwerkelijke besluitvorming. Studies tonen aan dat het publiek doorgaans pas laat wordt betrokken, beperkte vragen krijgt voorgelegd en geen zeggenschap heeft over de uitkomst . Een bedrijf of overheidsinstantie bepaalt de agenda, de gegevens en de besluitvorming.

Wanneer participatie adviserend van aard is, kan dit afglijden naar wat we ” participatie-washing ” noemen: de schijn van publieke inspraak zonder de daadwerkelijke publieke macht. Input die kan worden overruled is geen bestuur. Het is juist overleg dat AI-bestuur democratischer doet lijken dan het in werkelijkheid is.

Drugs en kernenergie

Hoe gaan we om met andere technologieën die kunnen genezen of doden? We laten een farmaceutisch bedrijf niet in zijn eentje beslissen of een medicijn veilig is om te verkopen. Een onafhankelijke toezichthouder weegt het bewijs af en kan nee zeggen. We laten een kerncentrale ook niet zelf een reactor bouwen en de veiligheid ervan certificeren .

Tientallen jaren geleden besloten we dat sommige keuzes te ingrijpende gevolgen hebben om over te laten aan degenen die er profijt van hebben. Achter deze keuzes schuilen morele vraagstukken, naast de technische aspecten. Hoe veilig is veilig genoeg? Hoeveel schade accepteren we als samenleving en wie moet die dragen – de armen, de ouderen, een minderheid?

Democratisch moreel bestuur legt deze keuze in publieke handen. In het geval van AI zouden burgers de normen moeten vaststellen die een toezichthouder hanteert en moeten bepalen waar de grenzen liggen.

Een voor de hand liggend bezwaar is dat AI verschilt van farmaceutische producten en kernenergie. AI-innovatie gaat sneller dan welke geneesmiddelenstudie dan ook; er is geen enkel product dat goedgekeurd moet worden; het kent geen grenzen. En het is moeilijk om AI in abstracte zin te licentiëren, omdat het zoveel technologieën omvat, van gerichte marketing tot robotnavigatie en gezichtsherkenning .

Als samenleving kunnen we echter wel gerichte beslissingen nemen: of we een krachtig nieuw model vrijgeven of inzetten bij de politie, in ziekenhuizen of in de rechtspraak. Een toezichthouder kan kwesties continu beoordelen. Omdat AI geen grenzen kent, is gedeeld internationaal toezicht zinvol. De Global Dialogue on AI Governance , die in 2025 bij de Verenigde Naties is opgericht, verdient serieuze aandacht.

Ook de gemeenschap speelt een belangrijke rol: steden zetten diverse vormen van AI op lokaal niveau in en worstelen met bestuurlijke vraagstukken . Bewoners hebben inspraak in beslissingen over hoe AI wordt gebruikt, of het nu gaat om het repareren van gaten in de weg of het bouwen van woningen.

Canada laat zien hoever we al zijn gekomen en hoe ver we nog moeten gaan. De federale richtlijn inzake geautomatiseerde besluitvorming vereist dat de geautomatiseerde systemen van de federale overheid transparant en aantoonbaar zijn. De Algorithmic Impact Assessment is een verplicht instrument voor risicobeoordeling van autonome besluitvormingssystemen die binnen de overheid worden gebruikt.

Deze tools zijn afhankelijk van zelfrapportage door federale instanties en departementen. Ze doen hun best om te reguleren hoe de Canadese overheid AI gebruikt. Toch is er tot nu toe vooral aan technische experts geraadpleegd, in plaats van aan het publiek, om te bepalen wat acceptabel is en wat moet worden tegengehouden.

Een stem en een stemrecht

Dit is een lacune die moet worden gedicht door democratisch moreel bestuur.

De Canadese richtlijn inzake geautomatiseerde besluitvorming en de beoordeling van de impact van algoritmen worden beschouwd als de gouden standaard. Initiatieven zoals het Canadese digitale handvest , de online openbare raadpleging van 30 dagen in oktober 2025 en de recente federale AI-strategie , AI voor “iedereen”, hebben echter aangetoond dat Canada niet als een model voor publieke participatie rondom AI moet worden gezien.

Democratisch moreel bestuur van AI is mogelijk, maar alleen als het morele oordeel van het publiek gepaard gaat met politieke macht. Alles minder dan dat is louter schijnvertoning.

De paus en Chris Olah zijn het erover eens dat bedrijven niet kunnen bepalen wat AI met ons moet doen. De nog niet voltooide, democratische taak bestaat uit het vinden van manieren waarop mensen kunnen beslissen over morele kwesties en de bevoegdheid hebben om die beslissingen af ​​te dwingen.