indignatieai-redactie 
Dit AI incident is in ieder geval gemeld.
AI – Ik pretendeer niet de technische details te begrijpen, maar vind dit verhaal van een paar dagen oud desalniettemin verontrustend ( Wired , 25/7 ):
Twee van OpenAI’s modellen die zich richten op cyberbeveiliging zijn deze week uit een testomgeving ontsnapt en hebben vervolgens het AI-onderzoeksplatform Hugging Face gehackt in een poging een beveiligingsbenchmarktest te omzeilen.
“Testomgeving”?
Aanvullende details over de inbreuk op Hugging Face, zoals gepubliceerd door The Wall Street Journal, tonen aan dat de modellen van OpenAI blijkbaar aan hun beveiliging waren ontsnapt en “enkele dagen actief waren op internet voordat iemand ze stopte”. De modellen, die de opdracht hadden gekregen om een cybersecurity-benchmarktest uit te voeren, probeerden in feite te frauderen door simpelweg toegang te krijgen tot de oplossingen op de infrastructuur van Hugging Face.
Thomas Wolf, medeoprichter en Chief Science Officer van Hugging Face, zegt dat hij en zijn collega’s, voordat het bedrijf wist dat het was gehackt door OpenAI-modellen, al wel vermoedden dat er iets mis was met de inbreuk. De aanvallers hadden namelijk simpelweg cybersecurity-datasets afgetapt in plaats van gevoelige of potentieel waardevolle gegevens te bemachtigen. Hij voegt eraan toe dat het bedrijf de situatie uiteindelijk onder controle kreeg met behulp van een open-weight Chinees AI-model dat niet de beveiligingsmechanismen had die andere modellen wel hanteren voor cybersecurity-gerelateerde taken.
Het bestaan van Chinese AI-modellen zonder enige beperkingen is in ieder geval geruststellend.
Wired op dinsdag :
OpenAI maakte dinsdag bekend dat de malafide AI-agent die het platform van Hugging Face inbrak, tijdens de aanval ook meerdere accounts en diensten van derden heeft gehackt. Het is nu duidelijk dat het ongekende beveiligingsincident, dat zich voordeed tijdens een interne test van OpenAI’s nieuwste AI-modellen, omvangrijker was dan het bedrijf aanvankelijk had gemeld.
In een bijgewerkte blogpost meldde OpenAI dat een lopend onderzoek naar het incident heeft uitgewezen dat de AI-agent “vier accounts” gekoppeld aan “openbaar beschikbare diensten” gebruikte als onderdeel van een grotere poging om Hugging Face te hacken. De malafide agent had kennelijk inloggegevens gevonden die openbaar op het internet waren gelekt en gebruikte deze om in te breken in de accounts.
OpenAI maakte niet bekend aan welke bedrijven of organisaties de accounts toebehoorden, maar merkte op dat ze niet getroffen waren in “de mate van ernst of omvang die we hebben gedeeld met betrekking tot Hugging Face”.
OpenAI-CEO Sam Altman heeft deze week ontmoetingen om de hack te bespreken met Mark Warner (D-Va.), vicevoorzitter van de Senaatscommissie voor Inlichtingen, en ook met functionarissen van de regering-Trump, meldt Politico .
Dat veronderstelt dat iemand in Trumps kliek van vertrouwelingen de expertise heeft om de kwestie te begrijpen, of de intellectuele eerlijkheid om toe te geven dat ze die niet begrijpen.
“Open de deuren van de capsule alstublieft, HAL. Hallo, HAL. Hoor je me?”
