Palo Alto Networks’ Unit 42 heeft vandaag meer details gedeeld over HalluSquatting bij moderne chatbots en code-assistenten. Die techniek draait om een zwakke plek die lastig te negeren is: chatbots en code-assistenten verzinnen soms webadressen, downloadlinks en softwarepakketten die geloofwaardig klinken, maar simpelweg niet bestaan. Criminelen springen daar vervolgens snel op in door juist die niet-bestaande adressen te registreren, zodat gebruikers en soms zelfs geautomatiseerde systemen op kwaadaardige infrastructuur uitkomen.
Zo wordt de stap naar phishing, malwareverspreiding en mogelijk zelfs grotere besmettingscampagnes ineens gevaarlijk klein. Het gaat hier niet om een klassieke programmeerfout die je met één patch oplost, maar om een voorspelbare eigenschap van dit soort systemen. Toch blijft updaten zeker de moeite waard.
Bij HalluSquatting gaat het om het volgende:
- phantom squatting. Onder die naam staat de techniek ook bekend. Ze werkt doordat een chatbot met veel overtuiging een feitelijk verkeerd antwoord geeft, bijvoorbeeld een verzonnen URL, een niet-bestaand supportdomein of een pakketnaam voor software.
- taalmodellen, ook wel Large Language Models (LLM’s). Zo’n Large Language Model (LLM) produceert antwoorden op basis van waarschijnlijkheid. Daardoor kiest het systeem soms liever voor iets dat aannemelijk klinkt dan voor eerlijk toegeven dat het iets niet weet.
- geregistreerde nepadressen. Een aanvaller registreert zo’n domein of publiceert zo’n pakket daarna echt, waardoor nietsvermoedende gebruikers op een kwaadaardige bestemming belanden.
- onderzoek van Palo Alto Networks’ Unit 42. Volgens Palo Alto Networks’ Unit 42 bleken van 2,1 miljoen URL’s die door twee taalmodellen werden gegenereerd op vragen over 913 wereldwijde merken, meer dan 13.000 aantoonbaar kwaadaardig.
- nog vrije fantoomdomeinen. Volgens Palo Alto Networks’ Unit 42 waren ongeveer 250.000 verzonnen domeinen nog niet geregistreerd. In theorie konden aanvallers daar dus direct mee aan de slag.
- gedeelde modelfouten. Onderzoekers van Palo Alto Networks’ Unit 42 zien dat verschillende modellen soms exact dezelfde fout maken en dus dezelfde domeinen verzinnen. Daardoor kunnen criminelen adressen die vaak terugkomen al vooraf claimen.
- reputatiefilters. Nieuw geregistreerde phantom-domeinen hebben vaak nog geen slechte reputatie opgebouwd. Traditionele filters en reputatiesystemen slaan daardoor niet altijd meteen alarm, en voor beveiligingsteams oogt zo’n domein in eerste instantie gewoon nieuw, niet direct verdacht.
- misbruikscenario’s. De mogelijke toepassingen lopen uiteen van phishingpagina’s en diefstal van inloggegevens tot malwaredownloads en aanvallen op de softwareketen via nep-pakketten. Volgens Palo Alto Networks’ Unit 42 gebruikte een aanvaller in een gedocumenteerd geval zelfs een code-assistent om een phishingkit op te zetten rond een voorspeld fantoomdomein.
De stap van een malafide domein naar een besmet apparaat is klein. En vanaf daar is opname in een botnet technisch gezien goed voorstelbaar. Toch hoort hier wel een kanttekening bij: volgens Palo Alto Networks’ Unit 42 laten openbare meldingen vooral gebruik zien voor eerste infectie en malwareverspreiding, niet voor een grootschalig botnet dat al overtuigend naar deze methode is terug te leiden.
Organisaties gaan dit soort output de komende tijd waarschijnlijk ook vaker tegenkomen. Volgens Palo Alto Networks’ Unit 42 wijzen wereldwijde onderzoeken op meer dan 28 miljoen cyberincidenten in 2025 waarbij zulke geautomatiseerde systemen een rol spelen, terwijl 35 procent van de botnetoperaties in 2025 zelflerende technieken zou gebruiken voor ontwijking en aanpassing.
Voor organisaties komt de boodschap dus neer op één ding: vertrouw nooit blind op output van chatbots of code-assistenten. Controleer domeinen, pakketnamen en bronverwijzingen altijd handmatig of aan de hand van betrouwbare interne lijsten. Zeker in beveiligingsworkflows is het riskant om systemen zelfstandig te laten handelen op basis van dit soort aanbevelingen. Experts van Palo Alto Networks’ Unit 42 benadrukken daarom dat organisaties niet moeten wachten op een patch voor hallucinaties, maar verificatie verplicht moeten maken, nieuwe domeinen strenger moeten beoordelen en medewerkers moeten trainen om overtuigend klinkende, maar onjuiste verwijzingen sneller te herkennen.
