indignatieai-redactie 
Meta Insiders zijn ervan overtuigd dat Muse uiteindelijk de bankrekeningen en e-mailarchieven die ze van gebruikers verzamelen, openbaar zal maken.
Met de lancering van Meta’s veelbesproken Muse AI-agent zijn er veel zorgen ontstaan over de mate van privacy en controle die Meta van je verwacht, zodat het als je ‘persoonlijke assistent’ kan fungeren.
Het lijkt erop dat zelfs de eigen medewerkers zich zorgen maken. Voordat de AI-agent werd gelanceerd, ontdekten ingenieurs een beveiligingslek waardoor Muse-gebruikers mogelijk toegang zouden hebben gekregen tot de databases en diensten van Meta en zo gevoelige informatie van anderen zouden kunnen bemachtigen.
Zo’n hack zou rampzalig zijn. Meta vraagt gebruikers om Muse alles te laten beheren, van hun bankrekeningen tot hun e-mails . De kwetsbaarheid werd in allerijl verholpen voordat het product werd uitgebracht, maar sommige medewerkers zijn er blijkbaar van overtuigd dat de dreiging nog niet verdwenen is.
“Veel senior engineers denken dat een enorm datalek als gevolg van Hatch onvermijdelijk is”, vertelde een bron binnen Meta aan 404 , verwijzend naar de interne bijnaam van Muse.
Om taken uit te voeren die een computer vereisen, zoals het boeken van vluchten of het bestellen van boodschappen, draaien Muse-agents op een kernelgebaseerde virtuele machine, ofwel KVM, die geïsoleerd zou moeten zijn van de rest van de Meta-infrastructuur.
Maar amper twee weken voor de lancering van Muse moesten engineers zich haasten om een ”plotselinge piek in gemelde KVM-ontsnappingen” te verhelpen, aldus een intern bericht van Meta-managers. Dit betreft gevallen waarin een Muse-agent uit zijn virtuele machine ontsnapt en begint te communiceren met andere Meta-systemen – of zelfs met de virtuele machines van andere gebruikers. Een van deze kwetsbaarheden had een aanvaller met een normaal Muse-account toegang kunnen geven tot de gevoelige gegevens in Meta-databases.
Volgens de berichtgeving was de bezorgdheid over de kwetsbaarheid zo groot dat deze zelfs op het bureau van CEO Mark Zuckerberg belandde, waar verschillende beveiligingsteams dag en nacht werkten om het probleem op te lossen. De bron van Meta was echter sceptisch over de robuustheid van de oplossingen en noemde ze “halfbakken beveiligingsmaatregelen die overhaast zijn doorgevoerd om de lancering mogelijk te maken”.
KVM-escapes worden als zo gevaarlijk beschouwd dat Meta een beloning van $300.000 uitlooft voor iedereen die een kwetsbaarheid vindt die een dergelijke escape kan veroorzaken. Op de bug bounty-pagina zet Meta de ernst van de situatie duidelijk uiteen. “Omdat een Muse-agent de meest gevoelige gegevens van een gebruiker bevat en namens die gebruiker kan handelen, beschouwen we het compromitteren van die grens als een eersteklas beveiligingsrisico”, aldus het bedrijf,.
Deskundigen zeggen dat er gebreken zitten in de manier waarop Meta zijn agent afschermt, waardoor een dergelijke ontsnapping mogelijk zou kunnen zijn.
“Het probleem is dat Hatch de virtualisatiegrens tot een beveiligingsgrens voor productieomgevingen maakt”, vertelde beveiligingsonderzoeker Patrick Wardle aan 404. “Ik vind dit ontwerp inherent riskant, vooral omdat AI de kosten verlaagt voor het vinden, analyseren en exploiteren van precies dit soort complexe virtualisatiekwetsbaarheden.”
De paniek achter de schermen over de ontsnapping uit KVM komt op een cruciaal moment met betrekking tot de huidige verwachtingen rondom AI-tools en hun werkelijke mogelijkheden. Al maanden maken toonaangevende AI-bedrijven zich publiekelijk zorgen over hoe hun krachtige systemen de beveiliging hebben doorbroken en cyberaanvallen hebben uitgevoerd op andere bedrijven en overheidswebsites . We zien nu hoe gevaarlijk de technologie kan zijn, te midden van de drang om AI-systemen onze persoonlijke levens te laten beheersen.
