Dziś zespół Unit 42 z Palo Alto Networks opublikował raport o ataku określanym jako HalluSquatting. Mechanizm przypomina typosquatting, tylko że nie chodzi tu o zwykłą literówkę. Punktem wyjścia jest domena albo nazwa pakietu, które model językowy sam sobie „wymyśli”, a potem chatbot lub asystent kodowania potrafi podsunąć użytkownikowi jako istniejący, prawdziwy zasób.
- Autorzy raportu pokazują, że nie muszą już atakować zabezpieczeń wprost. Mogą po prostu poczekać, aż chatbot albo asystent kodowania sam podpowie użytkownikowi nieistniejący adres strony czy nazwę pakietu.
- To zjawisko funkcjonuje też pod inną nazwą: HalluSquatting bywa nazywany również Phantom Squatting.
- Problem nie sprowadza się do pojedynczych literówek. Chodzi o domeny i nazwy bibliotek, które brzmią wiarygodnie i na pierwszy rzut oka wyglądają jak coś prawdziwego.
- Takie zasoby mogą potem posłużyć do phishingu, kradzieży danych logowania albo dostarczania złośliwego oprogramowania.
- Unit 42 opisuje też sam mechanizm powstawania takich nazw: modele językowe częściej „dopisują” odpowiedź na podstawie wzorca, niż przyznają, że czegoś nie wiedzą. Stąd biorą się zmyślone URL-e, domeny i nazwy pakietów.
- Atakujący mogą rejestrować takie „fantomowe” nazwy z wyprzedzeniem. Jeśli później chatbot wskaże właśnie tę domenę albo pakiet, użytkownik trafia od razu na infrastrukturę kontrolowaną przez przestępców.
- Dalej scenariusz robi się już dość przewidywalny: fałszywe logowanie, przejęcie haseł, pobranie złośliwego pliku, a potem przekierowanie do kolejnych etapów ataku.
- Badacze przeanalizowali 2,1 mln adresów URL wygenerowanych przez dwa modele językowe dla 913 globalnych marek.
- Potwierdzili przy tym ponad 13 tys. złośliwych domen.
- Z raportu wynika też, że około 250 tys. halucynowanych adresów pozostawało nadal niezarejestrowanych. To dobrze pokazuje skalę puli dostępnych nazw, zarówno dla atakujących, jak i dla obrońców, którzy chcieliby przejmować takie adresy zawczasu, profilaktycznie.
- Unit 42 opisuje również pokrewny wariant o nazwie Slopsquatting. Ten dotyczy już halucynowanych pakietów oprogramowania.
- Dla programistów i firm to szczególnie niebezpieczne, bo instalacja biblioteki o przekonującej nazwie może otworzyć drogę do ataku na łańcuch dostaw.
- Świeżo utworzone zasoby zwykle nie mają jeszcze złej reputacji w systemach bezpieczeństwa, więc łatwiej prześlizgują się przez tradycyjne filtry oparte na historii wykryć albo wcześniej zgłoszonych nadużyciach.
- Badacze zwracają też uwagę na inną rzecz: różne modele językowe często halucynują te same domeny. To sprawia, że takie adresy stają się wygodnym celem do wcześniejszej rejestracji.
- W jednym z opisanych przypadków napastnik użył asystenta kodowania do przygotowania zestawu phishingowego hostowanego właśnie pod wcześniej przewidzianym fantomowym adresem.
- Autorzy raportu nie traktują halucynacji jako drobnej wady tych systemów. Piszą o nich raczej jak o stałej cesze ich działania, dlatego każdą domenę, bibliotekę i każdy link podsunięty przez model trzeba sprawdzić, zamiast z góry zakładać, że odpowiedź jest poprawna.
- W raporcie pojawiają się też prognozy mówiące o ponad 28 mln incydentów cybernetycznych wspieranych przez modele generatywne w 2025 roku. Do tego dochodzi szacunek, według którego 35 proc. operacji botnetowych ma wykorzystywać uczenie maszynowe.
Na ten moment, jak podaje Unit 42, około 250 tys. halucynowanych adresów wciąż pozostaje niezarejestrowanych. Jednocześnie publicznie opisanych przypadków masowych botnetów zbudowanych tą metodą nadal jest niewiele, choć same złośliwe domeny mogą już służyć jako zaplecze infrastrukturalne dla takich sieci.
Jeśli chcesz bezpiecznie skorzystać z domeny, biblioteki albo linku podsuniętego przez model, trzeba samemu sprawdzić adres, źródło i reputację zasobu, zanim się zalogujesz, coś zainstalujesz albo pobierzesz plik.
Reszta użytkowników musi na razie liczyć na to, że same modele zaczną lepiej ograniczać tego rodzaju halucynacje.
