Google kampt opnieuw met een geloofwaardigheidsprobleem rond Google Overviews, de AI-samenvattingen die boven de gewone zoekresultaten verschijnen. Gebruikers en onderzoekers zagen namelijk dat de functie in meerdere gevallen pagina’s van de SCP Foundation, een fictief horroruniversum, presenteerde alsof het om echte dossiers, wezens of incidenten ging.
Dat is niet zomaar een gênante misser. Zo’n samenvatting staat bovenaan, in een toon die autoriteit uitstraalt. Wie SCP niet kent, kan dus makkelijk aannemen dat het om echte informatie gaat. Zeker als kinderen dit soort resultaten te zien krijgen.
Volgens meldingen van gebruikers en onderzoekers gaat het om minstens 20 gevallen waarin Google SCP-items samenvatte zonder duidelijk te zeggen dat het om verzonnen verhalen gaat.
De SCP Foundation is een gezamenlijk internetproject waar schrijvers doen alsof ze geheime rapporten publiceren over paranormale objecten en wezens. Op de site zelf staat nochtans nadrukkelijk dat het fictie is.
Die context ontbrak in de zoeksamenvattingen volgens die meldingen vaak. Soms stond er hoogstens een vage verwijzing naar “lore”, zonder helder te maken dat de bron deel uitmaakt van een verzonnen universum.
De opvallendste voorbeelden uit die meldingen waren:
- SCP-565: Google zou een fictief ambulant mensenhoofd in klinische termen hebben beschreven en gebruikers zelfs hebben doorgestuurd naar een “officieel” SCP-document.
- SCP-426: de samenvatting zou in de ik-vorm hebben geantwoord, alsof de fictieve broodrooster zelf het woord nam.
- SCP-922 en SCP-779: ook deze items werden genoemd als voorbeelden waarbij de functie er flink naast zat.
Er zijn intussen aanwijzingen dat Google op onderdelen al heeft bijgestuurd.
Een latere poging om hetzelfde gedrag bij “SCP-565” opnieuw op te roepen, leverde niet meer dezelfde uitkomst op. In Googles experimentele chatmodus werd die entiteit later zelfs omschreven als een “fictieve anomalie”.
Dat suggereert dat sommige gemelde zoekopdrachten al zijn aangepast. Maar daarmee is het grotere probleem niet weg. De functie kan nog altijd onzin opdienen die overtuigend klinkt, totdat iemand het opmerkt en aan de bel trekt.
En de verwarring rond SCP is geen losstaand incident.
Google kreeg eerder al forse kritiek over zich heen vanwege foutieve historische claims, misleidende gezondheidsinformatie en gevaarlijke adviezen, waaronder het inmiddels beruchte voorbeeld met lijm op pizza. Daar bleef het niet bij: ook valse telefoonnummers en contactgegevens die door oplichters waren geplaatst, doken op alsof ze legitiem waren.
Onderzoek van startup Oumi schatte dat de functie gemiddeld in ongeveer 90 procent van de gevallen goed zit. Dat klinkt best degelijk. Maar op het enorme zoekvolume van Google betekent die resterende 10 procent nog steeds tientallen miljoenen foute antwoorden per uur.
Ondertussen neemt ook de juridische druk toe.
Volgens een recente uitspraak van een rechtbank in München kan Google aansprakelijk worden gehouden voor onjuiste beweringen in deze samenvattingen, omdat die worden gezien als uitspraken van Google zelf en niet als neutrale zoekresultaten. Google liet weten dat die beslissing nog niet definitief is en nog wordt bestudeerd.
Daar zit precies het pijnlijke aan deze SCP-blunder. Als een zoekmachine fictieve horrorverhalen al niet consequent als fictie herkent, dan legt dat iets bloot wat lastig weg te poetsen is.
Systemen die informatie samenvatten blijken nog steeds niet betrouwbaar in staat om feit en verzinsel van elkaar te scheiden.
