Microsoft a présenté son nouveau service « Correction », conçu pour réviser et corriger automatiquement le texte généré par l’IA contenant des erreurs. L’outil est disponible dans le cadre de l’API Azure AI Content Safety de Microsoft, bien qu’il soit pour l’instant en version préliminaire, et est compatible avec n’importe quel modèle générateur de texte, comme GPT-4 d’OpenAI ou Llama de Meta.
Abonnez-vous à la newsletter de Softonic et recevez les dernières nouveautés en technologie, jeux vidéo et offres directement dans votre boîte
Abonnez-vous (c'est GRATUIT) ►Selon TechCrunch, parmi les erreurs que Correction corrigerait figurent les citations mal attribuées, qu’il vérifierait en les comparant à des sources fiables. « Correction est propulsé par un nouveau processus utilisant des modèles linguistiques petits et grands pour aligner les sorties avec les documents de base », a expliqué un porte-parole de Microsoft. Selon la société, cet outil peut être particulièrement utile « dans des domaines comme la médecine », où la précision est cruciale.
Cependant, certains experts, comme le doctorant Os Keyes, avertissent que cette approche n’élimine pas les soi-disant « hallucinations » des modèles d’IA générative. Keyes explique que ces hallucinations sont inévitables, car les modèles ne « savent » rien, mais prédisent des mots en se basant sur des motifs.
L’outil de Microsoft repose sur deux métamodèles : l’un qui identifie les hallucinations possibles dans le texte et l’autre qui tente de les corriger en se basant sur des documents fiables. Malgré l’avancée que cela représente, Keyes affirme avoir de sérieux doutes sur le succès de Correction, car « il pourrait aussi halluciner ». Mike Cook, chercheur à l’Université Queen Mary, est d’accord et ajoute que cet outil « pourrait donner aux utilisateurs un faux sentiment de sécurité ».
Bien que Correction ait le potentiel d’améliorer la fiabilité des contenus générés par l’IA pour les utilisateurs et les entreprises qui utilisent quotidiennement les modèles génératifs, son utilisation gratuite est limitée à 5 000 enregistrements mensuels, après quoi, 38 centimes seront facturés pour chaque 1 000 enregistrements supplémentaires.
