Des chercheurs de l’Université de Waseda ont découvert que ajouter de fausses dates de publication à du contenu en ligne peut augmenter considérablement sa visibilité dans les modèles d’intelligence artificielle (IA), y compris des outils comme ChatGPT. Cette découverte suggère que ces modèles privilégient systématiquement le contenu le plus récent par rapport au matériel ancien et pertinent, ce qui pourrait affecter la visibilité de contenu de haute qualité qui n’est pas mis à jour régulièrement.
Mentir, c’est rester
L’étude a impliqué l’ajout de dates fictives à des documents de collections de tests standardisés. Les chercheurs ont évalué comment sept modèles d’IA, parmi lesquels GPT-4, GPT-3.5 et LLaMA-3, classaient ces résultats. Étonnamment, chaque modèle préférait le texte avec des dates plus récentes. Cet “effet balancín” a conduit à ce que le contenu le plus récent occupe des positions privilégiées, reléguant même des sources anciennes et autorisées, comme des recherches académiques et des guides détaillés, dans l’ombre.
La configuration « use_freshness_scoring_profile: true » qui a été trouvée dans les fichiers de configuration de ChatGPT évidente que le système de réorganisation d’OpenAI favorise explicitement cette préférence pour le contenu récent. Ce biais en faveur de la nouveauté pourrait donner lieu à une course à l’armement temporaire, où les créateurs de contenu sont contraints de mettre à jour constamment leur matériel, que ce soit de manière substantielle ou artificielle, pour maintenir leur visibilité dans les recherches d’IA.
Des experts de l’industrie, comme Chris Long et Rich Tatum, ont commenté les implications de ces découvertes. La conclusion est claire : dans les recherches alimentées par l’IA, le contenu nouveau peut surpasser le contenu factuel, ce qui soulève des préoccupations concernant l’équité et la qualité de l’information disponible en ligne. Pour l’instant, si votre contenu n’est pas nouveau, il pourrait être en danger de devenir invisible aux yeux des utilisateurs qui dépendent de ces outils de recherche.