Anthropic zegt dat het de inzet van kwaadwillende partijen die biologische wapens ontwikkelden, heeft geblokkeerd.

Het rapport verschijnt enkele dagen nadat een onderzoeker van Anthropic ontslag nam vanwege vermeende onverantwoordelijke AI-ontwikkeling.

Anthropic , het AI-technologiebedrijf achter Claude, publiceerde donderdag een rapport waarin gedetailleerd wordt beschreven hoe kwaadwillenden hebben geprobeerd hun producten te gebruiken voor snode doeleinden, van oplichting en massasurveillance tot de ontwikkeling van biologische wapens.

“We publiceren dit werk omdat we vinden dat we de verantwoordelijkheid hebben om misbruik van onze diensten aan het licht te brengen”, aldus het bedrijf uit San Francisco in het 154 pagina’s tellende rapport . “Naarmate modellen steeds geavanceerder worden, zullen de risico’s toenemen, tenzij AI-ontwikkelaars en de beschermers van de samenleving actie ondernemen om ze veiliger te maken.”

Zo blokkeerde de biologische veiligheidsclassificatie van Anthropic afgelopen mei bijvoorbeeld een verzoek om Claude’s hulp bij het opstellen van een subsidieaanvraag voor wetenschappelijke financiering. De reden was dat het project onderzoek betrof naar het zeer besmettelijke chikungunya- virus . Zogenaamd gain-of-function-onderzoek kan virussen theoretisch gezien besmettelijker of dodelijker maken. 

“Vergelijkbaar onderzoek zou zeker gebruikt kunnen worden bij de ontwikkeling van betere vaccins en therapieën voor het virus, maar het zou er ook toe kunnen leiden dat de ziekteverwekker gevaarlijker wordt”, schreef Anthropic. Wat de zaak nog verdachter maakt, is dat de voorgestelde onderzoeksfaciliteit een militair onderzoeksinstituut was. 

Hoewel Anthropic in het verleden al soortgelijke risicoanalyses heeft gepubliceerd, komt deze publicatie slechts enkele dagen nadat Jacob Coxon, een onderzoeker bij Anthropic, ontslag nam bij het bedrijf. Hij beweerde dat ze niet verantwoordelijk omgingen met de ontwikkeling van AI. 

“Onderschat de kracht van deze technologie niet,” zei Coxon op X. “Dit zullen binnenkort bovenmenselijke systemen zijn die alles kunnen hacken, elk vakgebied van de ene op de andere dag kunnen revolutioneren en echte macht en middelen kunnen verwerven. We hebben allemaal de vooruitgang op elk van deze gebieden gezien, en die vooruitgang vertraagt ​​niet.”