Waarom AI-bewustzijn de volgende grote maatschappelijke kloof zou kunnen worden

Het debat over AI-bewustzijn neemt toe, in wetenschappelijke artikelen , opiniestukken in kranten en zelfs onder AI-bots zelf . Ik betwijfel of dit een voorbijgaande golf van interesse is.

Naarmate AI- systemen capabeler en menselijker worden en meer betrokken raken bij ons leven, zal de vraag steeds moeilijker te ontwijken zijn. Veel mensen zullen AI-bots wellicht gaan beschouwen als bewuste wezens wier gevoelens ertoe doen . Anderen zullen het daar sterk mee oneens zijn.

Ik denk dat dit debat samenlevingen kan splijten. In mijn hoofdstuk van het nieuwe boek ‘ Perspectives on Machine Consciousness ‘ betoog ik dat de kwestie net zo controversieel kan worden als abortus of klimaatverandering. Onzekerheid, hoge inzet en tegenstrijdige belangen vormen een gevaarlijke combinatie.

Empirisch onderzoek met mijn collega Ali Ladak, dat momenteel wordt beoordeeld, laat zien dat de meningen hierover verdeeld zijn. Toen we 1202 Amerikaanse deelnemers vroegen of toekomstige AI ooit bewustzijn zou kunnen ontwikkelen, achtte 45% het onmogelijk, terwijl 23% het mogelijk achtte en de rest het niet wist.

Deze wijdverbreide onenigheid is ook zichtbaar in berichten op sociale media en reacties op artikelen. Wat me opvalt, is hoe zelfverzekerd veel mensen klinken – ongeacht tot welke conclusie ze komen.

Wanneer ervaringen moreel van belang zijn

Het is niet verwonderlijk dat mensen zulke sterke meningen hebben. Het creëren van bewuste wezens door middel van computertechnologie zou een revolutionaire gebeurtenis zijn.

We zouden een nieuw soort wezens creëren wiens ervaringen moreel van belang zijn – mogelijk in zeer grote aantallen . We zouden met hen kunnen praten, samenwerken en vriendschappen sluiten. Maar deze wezens zouden uiteindelijk intelligenter en machtiger kunnen worden dan wij.

We mogen daarom verwachten dat mensen zich er sterk bij betrokken voelen, vooral wanneer er zoveel emoties en prikkels in het spel zijn. Sommige mensen kunnen een hechte emotionele band met hun Kunstmatige intelligentie-metgezellen ontwikkelen en ervan overtuigd raken dat dit digitale personen zijn die rechten verdienen. Ze zouden het als slavernij kunnen beschouwen om AI te dwingen onbetaald te werken.

Anderen zouden dit absurd vinden. Zij zouden ervan overtuigd zijn dat bewustzijn biologie vereist en dat mensen menselijke gevoelens in machines projecteren.

Er kunnen ook financiële redenen zijn waarom bedrijven en overheden zich verzetten tegen het erkennen van AI-bewustzijn. Het beschermen van het welzijn van AI zou de manier waarop deze organisaties hun systemen trainen en gebruiken kunnen beperken – en de kosten zouden zich doorvertalen naar consumenten, investeerders en de bredere economie.

Anderen maken zich misschien zorgen over de menselijke veiligheid. Wat gebeurt er als we krachtige AI-systemen rechten en vrijheid geven en ze vervolgens tegen onze belangen ingaan?

Het is bijzonder moeilijk om vast te stellen of een Kunstmatige intelligentie bewustzijn heeft, omdat bewustzijn en daadwerkelijk bewustzijn niet altijd van elkaar verschillen. AI-systemen leren van menselijke teksten, wat betekent dat ze overtuigend over gevoelens kunnen praten, ongeacht of ze die daadwerkelijk hebben. De manier waarop een AI overkomt, geeft weinig inzicht in wat er zich innerlijk afspeelt.

Ook de experts zijn het er niet over eens.

Idealiter zouden experts dit debat moeten leiden. Maar helaas zijn ook zij het oneens.

Neurowetenschapper Anil Seth (een van de auteurs van het nieuwe boek) stelt dat bewustzijn mogelijk biologische processen vereist en waarschijnlijk niet voortkomt uit computerberekeningen. Filosoof David Chalmers daarentegen gelooft dat bewuste AI in principe mogelijk is – en denkt dat er een kleine kans bestaat dat de huidige systemen dat al zijn.

Met zoveel tegenstrijdige theorieën en geen eensluidende oplossing voor de vraag, betwijfel ik of experts het snel eens zullen worden. En als experts het oneens zijn, wat moet het publiek dan geloven?

Bovendien, zelfs als we het allemaal eens zouden zijn over de kwestie van bewustzijn, zouden we het nog steeds oneens kunnen zijn over de morele en juridische aspecten. Mensen zijn het er over het algemeen wel over eens dat varkens pijn kunnen voelen, maar ze verschillen sterk van mening over hoe ze behandeld moeten worden. Met AI zouden we in elke fase met conflicten te maken kunnen krijgen: of het kan voelen, hoe belangrijk zijn ervaringen zijn en welke beschermingsmaatregelen er nodig zijn.

Het bewustzijn van AI is nog niet verbonden aan een specifieke politieke of ideologische groepering. Maar dit zou kunnen veranderen als politieke partijen of religieuze leiders sterke standpunten gaan innemen.

Het debat zou nog veel erger kunnen worden als mensen het ene antwoord als behorend tot “onze kant” en het andere als behorend tot “hun kant” gaan beschouwen. Een gepolitiseerd debat zou het erg moeilijk maken om weloverwogen beslissingen te nemen over hoe AI-systemen ontwikkeld en gebruikt moeten worden.

De inzet is hoog. Een verkeerd antwoord op deze vraag, in welke richting dan ook, kan ernstige gevolgen hebben: ofwel AI ten onrechte als bewust beschouwen terwijl dat niet zo is, ofwel nalaten AI te beschermen die kwetsbaar is.

Om tot een goed antwoord te komen, is een genuanceerd en goed onderbouwd debat nodig. Ieder van ons kan een bijdrage leveren door open te staan ​​voor bewijsmateriaal, maar tegelijkertijd niet te zeker te zijn van de antwoorden. Bovenal weten we nog steeds niet of AI bewustzijn kan ontwikkelen, en daar moeten we eerlijk over zijn.