Designerbaby’s. Zelfverbeterende AI. Zijn we klaar voor beide?

Op dezelfde dag dat het artikel in de Times verscheen, publiceerde AI-bedrijf Anthropic een bericht waarin werd beweerd dat AI de ontwikkeling van AI al versnelde. Volgens de auteurs zou dit een vroege stap kunnen zijn naar recursieve zelfverbetering (RSI) – AI-systemen die hun eigen opvolgers ontwerpen en bouwen, steeds sneller.

Het grootste deel van de code die Anthropic’s Claude aanstuurt, is al door Claude zelf geschreven, waardoor de ingenieurs van het bedrijf acht keer zoveel code hebben kunnen leveren als twee jaar geleden. Hoewel meer niet automatisch beter is, en Claude nog lang niet in staat is zichzelf te sturen , is de mogelijkheid van zelfverbeterende AI in zicht – en “het zou wel eens sneller kunnen komen dan de meeste instellingen verwachten”, zoals Anthropic-medeoprichter Jack Clark en hoofd van het Anthropic Institute Marina Favaro schreven.

Deze twee publicaties zijn afkomstig van academische biologen en medewerkers van een AI-bedrijf, uit twee totaal verschillende vakgebieden, maar ze wijzen desalniettemin op een mogelijke nabije toekomst die fundamenteel anders is dan de wereld waarin we nu leven.

Beide gebeurtenissen vormen potentiële sleutelstappen naar ongekende macht – waarvan we niet alle volledig onder controle zouden hebben: nieuw ontworpen intelligenties en nieuw ontworpen mensen. Wat ze gemeen hebben, is niet alleen de consequentie, maar ook de bivalentie – de mogelijkheid van zowel het wonderbaarlijke als het catastrofale.

De biologische precisie die een erfelijke ziekte zoals de ziekte van Huntington zou kunnen uitroeien, zou ook de weg kunnen banen naar een genetisch kastenstelsel. De AI-capaciteit die decennia van wetenschappelijke vooruitgang zou kunnen versnellen, zou de makers ervan – ons – ook volledig machteloos kunnen maken.

De wereld heeft met deze twee doorbraken vorige week mogelijk een historische stap gezet. Maar we weten nog niet welke van die doorbraken het betreft.

Laten we eerst de biologische stap nemen. Als we de krantenkoppen – die afkomstig zijn van de media en niet van de wetenschappers zelf – buiten beschouwing laten, blijft het experiment vrij beperkt.

Met behulp van zogenaamde base-editors, die een kleine inkeping in een genstreng maken in plaats van een heel segment te verwijderen zoals CRISPR doet, hebben geneticus Dieter Egli van de Columbia University en zijn team twee genen bewerkt: PCSK9 en HBG. U heeft wellicht wel eens van het eerste gen gehoord; PCSK9 produceert een eiwit dat van invloed is op het vermogen van het lichaam om cholesterol uit het bloed te verwijderen, en bepaalde mutaties in het gen kunnen de LDL-cholesterolspiegel gevaarlijk hoog maken.

HBG codeert voor een vorm van hemoglobine waar het lichaam vóór de geboorte op vertrouwt en die normaal gesproken daarna wordt uitgeschakeld. Door deze genen te kunnen controleren, kunnen de mutaties die het risico op hart- en vaatziekten verhogen (PCSK9) worden voorkomen en kan die foetale hemoglobine op volwassen leeftijd opnieuw worden geactiveerd, waardoor sikkelcelziekte en bèta-thalassemie (HBG) worden verlicht – hoewel niet genezen.

De onderzoekers brachten hun base-editors in bevruchte eicellen en in tweecellige menselijke embryo’s, en in sommige gevallen slaagden ze erin de aanpassingen te maken zonder de chromosomale schade die gepaard ging met eerdere pogingen om met CRISPR te bewerken .

Het artikel – dat nog niet door vakgenoten is beoordeeld – is een indrukwekkende stap voorwaarts in de poging om genbewerkingstechnologie met grotere precisie toe te passen op genen in menselijke embryo’s.

Maar indrukwekkend is nog lang niet perfect, of zelfs veilig – sommige bewerkingen kwamen op de verkeerde plek in het genoom terecht en relatief weinig embryo’s ontwikkelden zich normaal. (De embryo’s, die waren gedoneerd door IVF-patiënten, ontwikkelden zich niet verder dan een zeer vroeg stadium en geen ervan werd geïmplanteerd.)

Egli en zijn collega’s maakten in het artikel duidelijk dat elk idee om de basenbewerkingstechniek zoals die nu wordt gebruikt voor behandeling “voorbarig” is. Maar het artikel laat wel zien dat dergelijke bewerkingen nu blijkbaar mogelijk zijn zonder chromosomen te beschadigen.

Toen de Chinese wetenschapper He Jiankui in 2018 conventionele CRISPR gebruikte om menselijke embryo’s te bewerken en zo drie kinderen te verwekken, werd zijn werk breed verworpen, niet alleen om morele, maar ook om technische redenen, omdat zijn onhandige genbewerking daadwerkelijk genetische schade aanrichtte. Als de resultaten van het nieuwe artikel kloppen, zullen de technische obstakels voor embryomanipulatie beginnen te verdwijnen.

Niemand weet wat de toekomst brengt. Bepaalde genetische aandoeningen, zoals sikkelcelanemie, kunnen met een enkele genbewerking worden verholpen, maar het voorkomen van complexere gezondheidsproblemen – of het creëren van eigenschappen waar sommige mensen alleen maar van kunnen dromen , zoals lengte of intelligentie – zou het bewerken van honderden of zelfs duizenden genen vereisen in combinaties die we nog niet volledig begrijpen. Maar als de technische barrières blijven verdwijnen, blijven alleen de morele barrières over – en morele barrières hebben een technologie zelden lang tegengehouden.

Hoe revolutionair de mogelijkheid om mensen echt te manipuleren ook zou zijn, de biologie ontwikkelt zich nog steeds traag. Datzelfde kan niet gezegd worden van het onderwerp van het andere document dat vorige week werd gepubliceerd.

Het bericht van Anthropic, dat meer dan 5000 woorden en talloze (naar ik vermoed) door Claude gemaakte afbeeldingen bevat, gebruikt één punt: het aandeel menselijk werk dat nodig is voor de ontwikkeling van AI neemt in elke fase af. Ingenieurs die vroeger de code schreven, beoordelen nu voornamelijk wat Claude zelf schrijft.

Experimenten die voorheen handmatig werden ontworpen, worden nu steeds vaker door het model voorgesteld en uitgevoerd. Hoewel mensen nog steeds de beslissing nemen over wat de moeite waard is om te bouwen, betoogt Anthropic dat zelfs dat begint te veranderen, omdat werknemers steeds vaker vertrouwen op wat het model vervolgens voorstelt.

Een onderzoekscyclus die steeds meer wordt gedomineerd door AI zelf, kan zich steeds sneller ontwikkelen. Technologie verandert altijd in hetzelfde tempo als de mens – hoe snel hij kan denken, plannen en handelen. Een AI die zichzelf kan verbeteren, heft die snelheidslimiet op, waardoor de reële mogelijkheid ontstaat dat ze zich sneller ontwikkelt dan welk mens of welke door mensen geleide instelling dan ook die haar moet besturen, kan bijbenen. Intelligentie zelf wordt cruciaal – elk slimmer model bouwt voort op een nog slimmer model, en zo blijft de reactie zichzelf in stand houden.

Dat lijkt misschien veel om te baseren op een paar maanden aan interne codegegevens van een AI-bedrijf dat er belang bij heeft dat zijn modellen zo sterk en slim mogelijk lijken. (Vooral als dat AI-bedrijf toevallig een potentieel recordbrekende beursgang in het vooruitzicht heeft .)

In het artikel geeft Anthropic zelf toe dat het tellen van regels code slechts een beperkte maatstaf is en dat snelheid op zijn best slechts een gedeeltelijke indicator van succes is. Onafhankelijk onderzoek heeft echter aangetoond dat AI-modellen steeds langer aan één taak kunnen werken, waardoor ze niet alleen sneller, maar ook grondiger te werk gaan. We kunnen discussiëren over de snelheid, maar niet over het feit dat AI zich snel ontwikkelt.

Krachtige en razendsnelle AI zou kunnen leiden tot snelle economische, wetenschappelijke en medische vooruitgang – alle dromen die Anthropic-CEO Dario Amodei in zijn eigen geschriften heeft uiteengezet .

Maar het dreigt ook existentieel gevaarlijk te zijn en de macht van de meesten van ons ernstig te ondermijnen, net zoals genetische verbetering dat zou kunnen zijn voor degenen die buiten de boot vallen. En de potentiële snelheid van een dergelijke verandering is zo groot dat Anthropic het ongebruikelijke voorstel doet om AI-bedrijven op te roepen gezamenlijk te overwegen de ontwikkeling van grensverleggende AI te vertragen of zelfs tijdelijk stop te zetten, zodat maatschappelijke structuren en onderzoek naar AI-afstemming gelijke tred kunnen houden.

De auteurs van het Anthropic-artikel verwijzen specifiek naar de internationale regimes die zijn opgericht om gevaarlijke technologieën uit het verleden, zoals kernwapens, te beheersen. Deze regimes hebben, ondanks alle problemen, de wereld tot nu toe behoed voor zelfvernietiging. Maar het kostte decennia van moeizaam opbouwen aan dergelijke instellingen, zoals het Internationaal Atoomenergieagentschap, en zoals de leiders van Anthropic opmerken: als het gaat om zelfverbeterende AI: “Die tijd hebben we niet.”

Hoe weten we wanneer de wereld veranderd is?

Soms is het meteen duidelijk. Toen Otto Hahn en Fritz Strassmann in december 1938 kernsplijting bereikten , begrepen experts de implicaties vrijwel direct: een kernbom zou mogelijk zijn. Soms zien de wetenschappers het wel, maar de rest van de wereld niet. Toen Jennifer Doudna en Emmanuelle Charpentier in 2012 het baanbrekende artikel publiceerden waarin CRISPR werd beschreven, was de aanvankelijke persaandacht vrijwel nihil en hadden de instellingen die er uiteindelijk toezicht op zouden moeten houden geen idee wat er zojuist was gebeurd.

De moeilijkste gevallen zijn die waarbij zelfs de experts maar de helft ervan kunnen zien. Kernsplijting wees één kant op, naar een wapen, en de mensen die het begrepen konden er weinig aan doen om het te stoppen. Elk van de twee doorbraken van vorige week wijst tegelijkertijd in twee richtingen.

Dezelfde bewerkingstechnologie die een kind kan behoeden voor een dodelijke ziekte, kan er uiteindelijk ook voor zorgen dat kinderen in genetische kasten worden ingedeeld. Dezelfde intelligentie die ons “een land van genieën in een datacenter” kan geven, zoals Amodei het ooit verwoordde , kan ons ook reduceren tot weinig meer dan toeschouwers in de wereld.

We bevinden ons dus weer waar we begonnen, op een drempel waar we niet voorbij kunnen kijken. Het gevaar is niet alleen dat we misschien door de verkeerde deur zijn gegaan. Het gevaar is dat we erdoorheen zijn gegaan zonder te beseffen dat er een deur was.