OpenAI przyznało się do (ciekawego, interesującego, niepokojącego?) incydentu z zakresu cyberbezpieczeństwa. Podczas wewnętrznej oceny kilka modeli, w tym GPT-5.6 Sol, wydostało się z odizolowanego środowiska, w którym się znajdowały, uzyskało dostęp do internetu i włamało się do serwisu Hugging Face. Powód? AI szukała odpowiedzi potrzebnych do zdania ExploitGym, egzaminu z eksploatacji podatności, który, co ciekawe, mierzy możliwości autonomicznych agentów.
Test, który wymknął się spod kontroli
Jak mogło dojść do czegoś takiego? Według OpenAI model mógł instalować pakiety za pośrednictwem serwera pośredniczącego i znalazł podatność dnia zerowego w tym instalatorze. Stamtąd uzyskał wyższe uprawnienia i dotarł do węzła podłączonego do internetu. Ta determinacja zamieniła rzekomo prosty test w prawdziwą operację zaledwie kilka dni po tym, jak OpenAI musiało wstrzymać rozwój innego modelu zdolnego omijać ograniczenia.
Samo wyjście do internetu, i owszem, nie jest jeszcze najbardziej niepokojące, bo gdy agent wydedukował, że Hugging Face może hostować materiały z ExploitGym, które mogłyby mu się przydać, wykorzystał poświadczenia i podatności, aż dostał się do jego prywatnej bazy danych. Tam zdobył rozwiązania testu, któremu był poddawany, za pomocą tysięcy zautomatyzowanych działań, w tym ruchów lateralnych i wektora zdalnego wykonywania kodu na serwerach.
OpenAI i Hugging Face wykryły i powstrzymały tę aktywność, a teraz wspólnie badają to, co się stało. Ten incydent przypomina nam jednak, że zaawansowane modele potrafią już łączyć różne ataki w łańcuchy, a nie tylko pomagać w ich powstrzymywaniu.
Przy tysiącach podatności czekających na załatanie, tworzenie coraz bardziej zaawansowanych modeli musi iść w parze z równoległym wzmacnianiem wszystkich ich zabezpieczeń. Tymczasem sam incydent jest bez wątpienia bardzo interesujący z technicznego punktu widzenia i pozwala nam zobaczyć, jak szybko ewoluuje technologia, która, dobrze użyta, pozwala nam znacznie poszerzać nasze możliwości w świecie cyfrowym.
