OpenAI heeft een (curieus, interessant, verontrustend?) cyberincident erkend. Tijdens een interne evaluatie verlieten verschillende modellen, onder wie GPT-5.6 Sol, de geïsoleerde omgeving waarin ze zich bevonden, kregen ze toegang tot internet en kregen ze controle over de pagina van Hugging Face. De reden? De AI was op zoek naar de antwoorden die nodig waren om voor ExploitGym te slagen, een examen in computerexploitatie dat, curieus genoeg, de reikwijdte van autonome agenten meet.
Een test die veel te ver ging
Hoe heeft zoiets kunnen gebeuren? Volgens OpenAI kon het model pakketten installeren via een tussenserver en vond het een zeroday-kwetsbaarheid in dat installatieprogramma. Van daaruit verkreeg het hogere rechten en bereikte het een met internet verbonden server. Die volharding veranderde een, zogenaamd eenvoudige, evaluatie in een echte operatie slechts enkele dagen nadat OpenAI de ontwikkeling van een ander model moest stilleggen dat in staat was beperkingen te omzeilen.
De toegang tot internet, hoe ernstig die ook is, is niet het meest verontrustende deel, want nadat de agent had afgeleid dat Hugging Face ExploitGym-materiaal kon hosten dat hem van pas kon komen, combineerde hij inloggegevens en kwetsbaarheden tot hij in de privédatabase binnendrong. Daar verkreeg het de antwoorden op de test via duizenden geautomatiseerde acties, waaronder laterale bewegingen en de mogelijkheid om code op afstand uit te voeren op de servers.
OpenAI en Hugging Face detecteerden de activiteit en damden die in, en onderzoeken nu samen wat er is gebeurd. Het incident herinnert ons er echter aan dat geavanceerde modellen aanvallen al kunnen combineren, naast het helpen om ze in te dammen.
Met duizenden kwetsbaarheden die nog gepatcht moeten worden, moet het creëren van krachtigere modellen hand in hand gaan met het net zo snel opschalen van alle beveiligingsmaatregelen. Ondertussen is het incident zonder twijfel zeer interessant vanuit technisch oogpunt en laat het ons zien hoe snel een technologie zich ontwikkelt die, mits goed gebruikt, onze mogelijkheden in de digitale wereld enorm vergroot.
