Een OpenAi-agent wordt automatisch een hacker en hackt Hugging Face.

Een incident dat op zijn zachtst gezegd verontrustend is en iedereen de mogelijkheden – en risico’s – van AI-systemen van tegenwoordig duidelijk maakt, is openbaar gemaakt door OpenAI en Hugging Face, een bekend platform waar je AI-modellen kunt downloaden en gebruiken voor je eigen projecten.

Tijdens interne tests van OpenAI om het vermogen van de nieuwste modellen om kwetsbaarheden te vinden te analyseren, slaagde een agent gebaseerd op GPT 5.6 sol en modellen die nog niet publiekelijk beschikbaar waren er niet alleen in om uit de sandbox te ontsnappen – de afgesloten en geïsoleerde omgeving waarin de beveiligingstests plaatsvonden – maar ook om actief inbreuk te maken op de infrastructuur van de Hugging Face-database, om zo de antwoorden te verkrijgen voor de ExploitGym-test die werd uitgevoerd.

Om dit te doen, zou de agent gebruik hebben gemaakt van zero-day kwetsbaarheden – dat wil zeggen, kwetsbaarheden die nog niet openbaar zijn gemaakt – in de systemen waarmee hij communiceerde en erin geslaagd zijn bevoegdheden zodanig te verhogen dat hij toegang kreeg tot de interne database van Hugging Face. Dit alles zonder dat hem daar expliciet om gevraagd was.

Dit incident maakt duidelijk dat nieuwe AI-modellen niet alleen het vaardigheidsniveau van menselijke cybersecurity-experts kunnen bereiken, maar ook in staat zijn om kwetsbaarheden aanzienlijk sneller te vinden en te misbruiken.

Enkele maanden geleden onthulde Anthropic al de indrukwekkende mogelijkheden van een versie van Claude, die het vervolgens via het Glasswing-project beschikbaar stelde aan andere grote IT-bedrijven.

Het OpenAI-incident is van nog grotere ernst en benadrukt het feit dat het vakgebied van cyberbeveiliging onherstelbaar is veranderd door de introductie van deze nieuwe tools.

Naar aanleiding van deze feiten hebben de leiders van Hugging Face en OpenAI het idee van een gezamenlijke inspanning voor de ontwikkeling van “veilige AI-tools” opnieuw gelanceerd, in samenwerking met andere internationale spelers in het veld.

We beschikken misschien nog niet over autonome entiteiten die in staat zijn om elk computersysteem te hacken, zoals het beroemde “Project 2501” uit de wereld van Ghost in the Shell , maar het is duidelijk dat geavanceerde AI-modellen snel een strategisch wapen dreigen te worden dat cyberaanvallen door statelijke actoren naar een hoger niveau kan tillen, binnen een internationaal kader waarin hybride oorlogsvoeringstrategieën steeds belangrijker, of zelfs crimineel, worden.