Zou AI de mensheid binnen tien jaar echt kunnen uitroeien? Vragen en antwoorden van experts

Kunstmatige intelligentie (AI) zou de mensheid dit decennium kunnen uitroeien, aldus drie onderzoekers van het Amerikaanse bedrijf Anthropic . Een van de medewerkers, Jacob Coxon, heeft het AI-bedrijf inmiddels verlaten.

Zijn voorspellingen werden bevestigd door twee andere huidige Anthropic-onderzoekers in berichten op sociale media. Over X beweerde Coxon: “De mensen die AI ontwikkelen, geloven oprecht dat het ons allemaal tegen het einde van dit decennium zou kunnen uitroeien. Dit is geen marketingtruc.”

Het is niet de eerste keer dat AI-onderzoekers en -bedrijven dergelijke waarschuwingen hebben uitgebracht. Kate Devlin, hoogleraar kunstmatige intelligentie en maatschappij, legt uit wat erachter zit en of de nieuwste waarschuwing anders is dan de vorige.

De meest recente beweringen over AI zijn afkomstig van een onderzoeker die ontslag heeft genomen bij Anthropic. Wat is uw algemene mening over wat hier is gebeurd?

Om dit in perspectief te plaatsen, moeten we bedenken dat het gaat om een ​​ex-medewerker van een AI-bedrijf die een bericht plaatste op een platform dat bekendstaat om zijn buitensporige beweringen. Dit bericht werd vervolgens geciteerd door een huidige medewerker van hetzelfde AI-bedrijf, die het risico op uitsterven van de mensheid schatte op meer dan 10%.

Het is dus weer een doemscenario over de vermeende dreiging van Kunstmatige intelligentie. Een vervolgtweet van Evan Hubinger, een huidige medewerker van Anthropic, nuanceert dit enigszins : “Ik denk dat het risico van de huidige modellen laag is. Waar ik me zorgen over maak, is superintelligentie.”

Deze tweets hebben enorm veel aandacht gekregen, omdat dat soort dingen altijd doen. Het speelt in op onze diepste angsten – en op onze decennialange ervaring met dystopische sciencefiction.

De beweringen van Jacob Coxon werden ondersteund door huidige medewerkers van Anthropic. Waarom denk je dat AI-bedrijven dit soort beweringen graag in het openbaar steunen?

Het is waarschijnlijk dat deze mannen geloven wat ze zeggen, maar we horen dit soort waarschuwingen al jaren. Het is wel vreemd dat AI-bedrijven dit soort beweringen accepteren.

Laten we niet vergeten dat ze voortdurend op zoek zijn naar investeringen en in ruil daarvoor de meest krachtige en dominante modellen beloven. Wat is er nu machtiger dan een model dat ons voortbestaan ​​bedreigt?

Een theorie over de doemscenario’s van AI-bedrijven is dat ze regelgeving willen vermijden. Denk je dat externe regulering van AI-bedrijven onvermijdelijk is?

Het is buitengewoon moeilijk gebleken om Kunstmatige intelligentie te reguleren, zeker op internationaal niveau. In de VS is er weinig animo voor regulering van AI, omdat men vreest dat regelgeving innovatie zou kunnen belemmeren.

Het Verenigd Koninkrijk heeft ook geen specifieke wetgeving voor

Kunstmatige intelligentie

, alleen bestaande wetten die in sommige gevallen van toepassing kunnen zijn. China begon met het invoeren van wetgeving op nationaal niveau, maar heeft die inmiddels vervangen door technische standaarden en sectorale regelgeving. De EU blijft de enige plek waar specifieke regelgeving voor AI bestaat .

Dit lijkt echter opnieuw een roep om betere regelgeving te hebben aangewakkerd, en dat zien we momenteel gebeuren in het Amerikaanse Congres en in het Britse parlement .

Er is nog een ander aspect: de industrie zou wellicht wel voorstander zijn van regulering, omdat grote technologiebedrijven het geld hebben om eraan te voldoen, maar het zou hun concurrenten met kleinere budgetten kunnen uitschakelen, waardoor de marktleiders een dominante positie zouden behouden.

Hoe ver zijn we nog verwijderd van het soort superintelligente waarover in de laatste waarschuwingen wordt gesproken?

We hebben geen superintelligentie . Ik wil daar liever geen tijdsbestek aan verbinden. Vaak wordt er gezegd “5-10 jaar”, maar dat is al vaker gebeurd met AI en er gaan 5-10 jaar voorbij zonder dat er iets nieuws ontstaat. Het hangt er ook van af wat er precies met superintelligentie wordt bedoeld. Iets dat bewustzijn heeft en zelf kan denken? Dat zal misschien nooit gebeuren.

In dit geval maakt het eigenlijk niet uit, aangezien Kunstmatige intelligentie al andere schadelijke gevolgen heeft en er andere manieren zijn waarop dingen mis kunnen gaan, hoewel waarschijnlijk niet op het existentiële niveau dat hier wordt gesuggereerd.

Kunstmatige intelligentie (AI) verbruikt bijvoorbeeld veel energie. Het heeft water nodig om datacenters te koelen. Het heeft een schadelijke impact op het milieu. Er zijn ook problemen met de inhoud die door Kunstmatige intelligentie wordt gegenereerd, variërend van een gebrek aan diversiteit in de output van de modellen (wat betekent dat de informatie die ze teruggeven gehomogeniseerd is en zich richt op bepaalde standpunten) tot de verspreiding van misinformatie en desinformatie.

We weten ook dat er sprake is van verborgen arbeid in de toeleveringsketen van Kunstmatige intelligentie: er zijn mensen die onder erbarmelijke omstandigheden werken om de technologie te leveren. En we weten dat dit een impact heeft op het leven van mensen, met name op de manier waarop het de werkplek verandert .

Op welke potentiële praktische manieren zou AI de mensheid daadwerkelijk kunnen uitroeien?

“Uitroeien” is misschien wat extreem, maar er zijn wel degelijk gevaarlijke bedreigingen. Denk bijvoorbeeld aan scenario’s waarin AI op destructieve wijze wordt ingezet, zoals voor het creëren van wapens of dodelijke virussen.

Minder opvallend, maar potentieel zeer destructief, zijn AI-agenten die door menselijke onachtzaamheid of incompetentie losgelaten worden en onveilige systemen hacken of overnemen.

Uit een recent onderzoek van King’s College London bleek dat het Britse publiek steeds negatiever staat tegenover AI, en dat 42% van de mensen bewust het gebruik ervan beperkt . Gezien de beweringen van technologiebedrijven dat AI een directe bedreiging vormt voor ons voortbestaan, zou het niet verwonderlijk zijn als de publieke opinie nog verder verslechtert.