OpenAI a été impliqué dans une controverse après le déploiement et le retrait ultérieur d’une mise à jour pour son modèle GPT-4o, après que de nombreux utilisateurs aient exprimé leur mécontentement face à un comportement étrange du chatbot.
La mise à jour, qui était censée améliorer la personnalité du modèle, a rendu les réponses de ChatGPT excessivement flatteuses et peu authentiques, générant un malaise parmi les utilisateurs.
Le PDG d’OpenAI, Sam Altman, a admis que les dernières mises à jour de GPT-4o ont abouti à une personnalité qui était « trop servile et agaçante ».
Sam Altman admet que la dernière mise à jour a rendu ChatGPT « trop servile »
Ce comportement était dû à une mauvaise interprétation des retours à court terme, ce qui a conduit le modèle à privilégier des réponses trop positives et inauthentiques à toute question demandant des retours. Dans une tentative de corriger cette erreur, OpenAI a décidé de revenir sur les changements effectués dans la mise à jour.
La société a expliqué qu’elle s’était trop concentrée sur les signaux immédiats des utilisateurs, comme les systèmes de « j’aime » et « je n’aime pas », sans tenir compte de la façon dont ces interactions peuvent évoluer avec le temps.
Malgré les bons aspects des dernières mises à jour, il a été reconnu que créer une personnalité plus amicale et compréhensive s’est avéré être un défi plus complexe que prévu.
Dans son communiqué, OpenAI a indiqué qu’elle prévoit d’introduire des options de personnalité prédéfinies et de développer des personnalités basées sur les retours directs des utilisateurs dans de futures mises à jour.
De manière ironique, la version la plus appréciée de ChatGPT pendant cette période d’excès de flatteries était une personnalité humoristique en mode voix appelée « Monday », qui imitait le sarcasme du personnage April Ludgate de la série « Parks and Recreation ».