Google vuelve a verse obligada a dar explicaciones por la fiabilidad de AI Overviews, esos resúmenes generados por IA que coloca en la parte más alta del buscador.
¿La razón? AI Overviews llegó a presentar como si fueran reales creaturas y expedientes de terror inventados de principio a fin. Varios informes recogen que, en al menos 20 casos, las respuestas dieron por válidas entradas de la SCP Foundation, un conocido universo colaborativo de ficción en internet, sin indicar de forma clara y visible que se trataba de material ficticio.
La SCP Foundation lleva años publicando historias con aspecto de archivos, informes y expedientes de contención. Y justo ese envoltorio seudocientífico parece haber confundido a AI Overviews.
En algunos ejemplos, los resúmenes de Google usaban un tono frío, clínico, tajante, para describir anomalías y monstruos inexistentes como si estuvieran hablando de información enciclopédica real.
Uno de los casos más citados es el de la búsqueda “SCP-565”. El resumen de AI Overviews para esa consulta describía supuestamente una cabeza humana ambulante con rasgos de cangrejo y hasta añadía detalles forenses inventados.
Con “SCP-426”, AI Overviews contestó en primera persona, como si hablara la propia tostadora ficticia del relato. También se han citado ejemplos como SCP-922 y SCP-779.
Y aquí el problema no parece ser precisamente que la fuente se preste a confusión: la propia web de la SCP Foundation deja claro que sus contenidos son ficción. Aun así, los resúmenes de Google solían saltarse ese contexto y, cuando lo insinuaban, lo hacían con términos tan vagos como “lore”.
Tampoco todas las comprobaciones posteriores arrojaron el mismo resultado. En una prueba más reciente, “SCP-565” ya no mostraba ningún resumen en la parte superior, mientras que otra herramienta conversacional de Google sí identificó el asunto como una “anomalía ficticia”.
Todo eso hace pensar que Google pudo retocar algunas respuestas después de las críticas. Pero el patrón no viene de ahora: AI Overviews ya arrastra otros errores muy comentados, desde datos históricos incorrectos hasta recomendaciones peligrosas, como aquella sugerencia, ya célebre, de usar pegamento no tóxico en la salsa de la pizza.
Y hay más.
La inquietud crece porque estos bloques ocupan una posición privilegiada en la página. Para alguien que no sepa qué es la SCP Foundation, incluidos muchos menores, el formato puede hacer que una historia de terror colaborativa suene a hecho comprobado.
Algunos análisis sostienen que AI Overviews acierta alrededor del 90 % de las veces, pero a la escala de Google ese 10 % restante podría traducirse en decenas de millones de respuestas erróneas cada hora. A eso se suma una presión legal cada vez mayor: un tribunal de Múnich dictó hace poco, como medida cautelar, que estos resúmenes deben entenderse como afirmaciones propias de Google y no como simples resultados enlazados. Eso podría abrir la puerta a responsabilidades por contenidos falsos o difamatorios.
Google, por su parte, ha dicho que esa decisión no es definitiva. Lo de la SCP Foundation puede parecer una anécdota, pero en el fondo deja a la vista un problema bastante más grande: cuando un buscador habla con voz de experto, hasta los monstruos inventados pueden terminar sonando a hechos. Por ahora, sigue sin estar claro si Google ya ha aplicado un ajuste general para evitar que este tipo de respuestas vuelva a aparecer.
