Veel websites krijgen bezoek van bots zonder dat je dat in de gebruikelijke dashboards echt terugziet. Dat onzichtbare botverkeer opent pagina’s, haalt data op en volgt links, geautomatiseerd en vaak buiten beeld. Voor websites, webshops en uitgevers is dat intussen een groeiend probleem. Verkeer naar een site komt lang niet meer alleen van echte bezoekers; een steeds groter deel bestaat uit bots. Het gevolg laat zich raden: bedrijven krijgen al snel een scheef beeld van hun publiek, terwijl advertentieprestaties, serverkosten en beveiligingsrisico’s ondertussen oplopen.
Bij veel organisaties begint het probleem al bij de meting.
Traditionele analysetools zijn vooral gebouwd om menselijk gedrag in de browser te volgen: paginaweergaven, kliks, sessies en tijd op de site. Bots gedragen zich vaak anders.
Sommige bots laden geen scripts. Andere blokkeren trackers of maken niet duidelijk dat het om geautomatiseerd verkeer gaat. Daarom moet je niet alleen je tools opnieuw bekijken, maar ook de manier waarop je verkeer beoordeelt. Onzichtbaar botverkeer kan namelijk dit veroorzaken:
- Cijfers over bereik en conversie raken vertekend. Voor marketeers betekent dat statistieken waar je minder op kunt vertrouwen, ook als het in dashboards op het eerste gezicht nog meevalt.
- Er ontstaat een blinde vlek tussen analytics en infrastructuur. Serverlogs en infrastructuurdata laten soms een heel ander beeld zien dan standaard webanalytics.
- Pagina’s lijken populair, maar trekken de verkeerde bezoekers. Voor redacties en webshops kan het eruitzien alsof een pagina goed presteert, terwijl die in werkelijkheid vooral door software wordt bezocht, niet door potentiële klanten of lezers.
- De operationele kosten lopen op. Elke extra aanvraag vraagt capaciteit van servers, databases en content delivery-netwerken. Een Content Delivery Network (CDN) zorgt ervoor dat content snel bij je bezoeker terechtkomt, maar iedere extra aanvraag kost wel capaciteit.
- Laadtijden worden langer en storingen liggen sneller op de loer. Zeker bij grote platforms kan extra botverkeer de kosten verhogen, pagina’s vertragen en op piekmomenten zelfs voor uitval zorgen.
- Content, productinformatie en prijsdata kunnen op grote schaal worden gekopieerd. Concurrenten of vergelijkingssites doen daar vervolgens hun voordeel mee, terwijl de oorspronkelijke aanbieder met de verkeerskosten blijft zitten.
- Ook securityteams krijgen er meer werk bij. Niet elke bot is kwaadaardig, maar het onderscheid tussen nuttige crawlers en misbruik wordt steeds lastiger zodra geautomatiseerde bezoekers inlogpagina’s testen, voorraadinformatie opvragen of massaal formulieren gebruiken.
Wat bedrijven hiertegen kunnen doen, begint met verder kijken dan standaard webanalytics. Serverlogs, netwerkmonitoring en botdetectie geven vaak een completer beeld van wat er werkelijk op een site gebeurt. En juist het verschil tussen wat webanalytics laten zien en wat de infrastructuur in de praktijk moet verwerken, zegt vaak veel.
Daarna komt de volgende stap: verkeer classificeren. Welke bots zijn gewenst, zoals zoekmachinecrawlers of monitoringdiensten? Welke vreten vooral onnodig capaciteit? En welke proberen zonder toestemming data op te halen? Op basis daarvan kunnen bedrijven limieten instellen, verdachte patronen blokkeren en gevoelige onderdelen van hun site extra afschermen.
Voor consumenten lijkt er op het eerste gezicht weinig te veranderen. Achter de schermen bepaalt onzichtbaar botverkeer alleen steeds vaker hoe snel een site laadt, hoe betrouwbaar aanbiedingen zijn en hoe goed een platform zijn content kan beschermen. Botdetectie krijgt de komende tijd dan ook een grotere rol bij bedrijven die hun infrastructuur en content beter willen beveiligen. Wie alleen naar menselijke bezoekers kijkt, mist inmiddels een flink deel van het echte verkeer.