Os Google AI Overviews, ferramenta de resumos automáticos do buscador, voltaram ao olho do furacão. Usuários relataram que o sistema passou a resumir páginas da SCP Foundation, um projeto colaborativo de ficção de terror, como se fossem registros reais, sem deixar claro que tudo ali pertence a uma obra ficcional.
Pelos relatos, criaturas, objetos e incidentes inventados apareceram em textos escritos num tom seguro, com aquela cara de autoridade. O contexto de ficção sumia do resumo ou aparecia só de forma nebulosa, com referências a “lore” que não explicavam que a fonte é, na prática, uma comunidade de escrita criativa.
Entre os casos citados, o buscador teria descrito o “SCP-565” como uma cabeça humana anômala capaz de se mover como um caranguejo.
No caso do “SCP-426”, a resposta apareceu em primeira pessoa, como se o próprio objeto fictício, a famosa torradeira da mitologia da SCP Foundation, estivesse falando com quem fez a busca.
Outros verbetes, como “SCP-922” e “SCP-779”, também teriam sido exibidos, segundo os usuários, sem um aviso claro de que faziam parte de uma obra coletiva de ficção. E o problema não está só no absurdo das respostas. Quando um resumo automático adota um tom enciclopédico, muita gente parte do princípio de que aquela informação foi checada. Aí textos criados por fãs acabam ganhando status de prova legítima sobre eventos ou entidades do mundo real.
A reprodução do erro, no entanto, não foi totalmente estável.
Numa tentativa feita depois, a busca por “SCP-565” já não trazia o mesmo resultado. No modo experimental de respostas do Google, a entidade chegou a ser classificada como uma “anomalia ficcional”, o que sugere que a empresa pode ter mexido em pelo menos parte das consultas apontadas.
Ainda assim, o episódio cabe direitinho num histórico mais amplo de tropeços do recurso. Desde o lançamento, ele já foi criticado por inventar fatos históricos, errar datas e até recomendar cola não tóxica em molho de pizza. Para ter noção do tamanho da coisa, um levantamento da startup Oumi estimou que os Google AI Overviews acertam cerca de 90% das vezes. Só que, na escala do Google, os 10% que sobram ainda podem significar dezenas de milhões de respostas erradas por hora.
E as consequências não param na confusão entre lendas da internet e realidade.
Já apareceram relatos de orientações de saúde enganosas e de golpistas que espalharam contatos falsos pela web, depois mostrados pelo buscador como se fossem legítimos. Isso eleva o risco para usuários comuns, sobretudo quando o assunto é sensível.
A discussão, aliás, começa a ganhar corpo também no campo jurídico. Recentemente, um tribunal de Munique decidiu que os resumos do recurso devem ser tratados como declarações do próprio Google, e não como simples resultados neutros de busca. Se esse entendimento avançar, a responsabilidade da empresa por respostas falsas ou potencialmente difamatórias pode aumentar, embora o Google diga que a decisão ainda não é definitiva e continua em análise.
Ainda não dá para cravar oficialmente que houve correção, já que o Google não publicou comunicados sobre o caso. Mesmo assim, o fato de algumas buscas já apontarem a SCP Foundation como ficção indica que ao menos uma parte da falha pode ter sido corrigida.
E você, arrisca algum palpite?
