Google znowu musi tłumaczyć się z wiarygodności automatycznych podsumowań, które pokazują się nad wynikami wyszukiwania. Powód? Jak relacjonowali użytkownicy, wyszukiwarka potrafiła przedstawiać zmyślone opisy anomalii, potworów i niewyjaśnionych obiektów z SCP Foundation, internetowego projektu społecznościowego opartego na fikcyjnych raportach grozy, tak jakby chodziło o rzeczy istniejące naprawdę.
Tym razem sprawa dotyczy SCP Foundation, czyli internetowego projektu tworzonego przez społeczność, który łączy horror, fikcyjne raporty i rozbudowane uniwersum przypominające tajne archiwa żywcem wyjęte z „Z Archiwum X”.
Z opisywanych przypadków wyłaniał się dość prosty schemat problemu:
- Udało się wskazać co najmniej 20 takich sytuacji. Podsumowania wyświetlały się bardzo wysoko w wynikach, były napisane pewnym, encyklopedycznym językiem i dla wielu osób mogły wyglądać jak gotowa, sprawdzona odpowiedź, a nie coś, co dopiero trzeba samemu skontrolować.
- Gubił się przy tym najważniejszy kontekst: na stronie samego projektu SCP Foundation jest wyraźnie napisane, że to fikcja.
- Przy wyszukiwaniu „SCP-565” Google miało opisywać fikcyjną „chodzącą ludzką głowę”, poruszającą się jak krab, a do tego dopisywać zmyślone szczegóły rzekomo kryminalistyczne, jakby chodziło o autentyczny materiał dowodowy.
- W przypadku „SCP-426” pojawiała się odpowiedź napisana w pierwszej osobie, z perspektywy fikcyjnego tostera.
- Wskazywano też inne podobne przykłady związane z „SCP-922” i „SCP-779”.
- Zdarzało się również, że wyszukiwarka sugerowała istnienie jakiejś „oficjalnej” dokumentacji SCP, a o samym lore wspominała tylko przelotnie, bez jasnej informacji, że mowa o fikcji.
Część tych wyników mogła już zostać poprawiona. Dla hasła „SCP-565” automatyczne podsumowanie Google nie zawsze było już wyświetlane, a w konwersacyjnym trybie wyszukiwarki temat miał być oznaczany jako „fikcyjna anomalia”. Tyle że żeby w ogóle zobaczyć takie oznaczenie, trzeba wejść właśnie w ten tryb.
To jednak nie zmienia sedna sprawy: wcześniej błędne odpowiedzi były po prostu dostępne i widoczne. Jeśli ktoś nie zna SCP Foundation, szczególnie młodszy użytkownik, taki chłodny, rzeczowy ton i ta pewność wypowiedzi mogą brzmieć całkiem przekonująco. Stąd dzisiejsze obawy o dezinformację i o to, na ile można ufać wyszukiwarce Google.
Reszta użytkowników Google nadal musi czekać, aż podobne błędy zostaną szerzej ograniczone.
Zresztą to nie pierwszy raz, kiedy podsumowania Google wprowadzały ludzi w błąd. Wcześniej zdarzało im się podawać fałszywe informacje historyczne, podsuwać niebezpieczne porady, w tym głośną sugestię dodania nietoksycznego kleju do sosu do pizzy, mylić kwestie zdrowotne, a nawet uwiarygadniać oszustwa przez pokazywanie fałszywych danych kontaktowych tak, jakby były prawdziwe.
Z analizy startupu Oumi wynika, że takie podsumowania są poprawne w około 90 proc. przypadków. Kłopot w tym, że przy skali ruchu, jaką obsługuje Google, pozostałe 10 proc. może oznaczać dziesiątki milionów błędnych odpowiedzi w ciągu jednej godziny. Coraz częściej wraca więc też pytanie o odpowiedzialność samej firmy.
Sąd w Monachium wydał wstępny zakaz i uznał, że takie podsumowania należy traktować jako własne stwierdzenia Google, a nie neutralny zestaw linków. Google podkreśla z kolei, że decyzja nie jest prawomocna i sprawa wciąż będzie dalej rozpatrywana.
Bez względu na to, jak ta sprawa się skończy, jedno pozostaje aktualne: kiedy wyszukiwarka mówi coś tonem autorytetu, bardzo łatwo uznać to za prawdę.
