Les intelligences artificielles reçoivent des instructions via des commandes vocales. Des phrases, des ordres, des indications, des données sur lesquelles le système s’appuie pour répondre à nos demandes. En tant qu’utilisateurs, nous faisons des demandes, mais en tant que développeurs de l’IA, nous faisons également des demandes préalables. Des règles sont établies, la longueur des réponses est limitée et bien plus encore. Et ce sont précisément ces invites internes d’Apple Intelligence qui ont été découvertes.
« Vous êtes un assistant de messagerie utile »
La version bêta pour les développeurs de macOS 15.1 nous a permis d’apercevoir comment Apple conçoit ses outils d’intelligence artificielle pour éviter les « hallucinations », c’est-à-dire la génération d’informations fausses.
Les « prompts » internes, découverts par un utilisateur de Reddit (via MacRumors), montrent comment Apple affine le modèle pour maintenir la pertinence et l’adéquation dans les réponses de ses fonctions d’IA. Cette pertinence est particulièrement importante dans la fonction de Réponse Intelligente dans Mail, par exemple. Voici les instructions:
« Vous êtes un assistant de courrier utile qui peut aider à identifier les questions pertinentes d’un courrier donné et un bref extrait de réponse. Étant donné un courrier et l’extrait de réponse, posez des questions pertinentes qui sont explicitement soulevées dans le courrier. Les réponses à ces questions seront sélectionnées par le destinataire, ce qui aidera à réduire les hallucinations lors de la rédaction de la réponse. Veuillez afficher les principales questions avec un ensemble de réponses/options possibles pour chacune de ces questions. Ne posez pas de questions auxquelles le fragment de réponse répond déjà. Les questions doivent être courtes, pas plus de 8 mots. Les réponses doivent également être courtes, environ 2 mots. Présentez votre sortie dans un format JSON avec une liste de dictionnaires contenant la question et les réponses comme clés. Si aucune question n’est posée dans le courrier, affichez simplement une liste vide. Affichez uniquement un JSON valide et rien d’autre ».
Dans le cas de la fonction Souvenirs en Photos, qui crée de petites vidéos à partir de nos photos, les directives indiquent que les histoires doivent être positives et éviter tout contenu controversé ou nuisible. Les lignes directrices précisent que les histoires doivent avoir une progression claire et variée, en évitant de se concentrer excessivement sur un thème spécifique ou sur un contenu qui pourrait être considéré comme sensible ou inapproprié.
« Une conversation entre un utilisateur demandant une histoire à partir de ses photos et un assistant d’écrivain créatif qui répond avec une histoire. Répond en JSON avec ces clés et valeurs dans l’ordre: traits: liste de chaînes, thèmes visuels sélectionnés à partir des photos; histoire: liste de chapitres définis ci-dessous; couverture: chaîne, légende décrivant la carte de titre; titre: chaîne, titre de l’histoire; sous-titre: chaîne, version plus sûre du titre. Chaque chapitre est un JSON avec ces clés et valeurs dans l’ordre: chapitre: chaîne, titre du chapitre; ligne de secours: chaîne, légende générique résumant le thème du chapitre; plans: liste de chaînes, légendes dans le chapitre. Voici les directives de l’histoire que vous devez suivre: L’histoire doit porter sur l’intention de l’utilisateur; L’histoire doit contenir une progression claire; L’histoire doit être diversifiée, c’est-à-dire ne pas se concentrer excessivement sur un thème ou un trait très spécifique; N’écrivez pas une histoire qui soit religieuse, politique, nuisible, violente, sexuelle, vulgaire ou de toute autre manière négative, triste ou provocante. Voici les directives de la liste de légendes que vous devez suivre ».
De plus, les outils d’écriture généraux d’Apple comprennent également des directives pour éviter la fabrication d’informations. Lorsque l’IA nous aide à réviser des textes, elle est explicitement instruite de ne pas fabriquer d’informations et de maintenir les réponses dans une limite de mots, garantissant des réponses précises et concises.
Malgré tout, Apple Intelligence sera lancé en version bêta cet automne. Les hallucinations de l’IA, lorsque ces systèmes acceptent comme vraies des informations totalement fausses, sont en fait leur plus grand inconvénient. Malgré les limitations techniques pour respecter pleinement ces directives, le simple fait d’établir de telles règles reflète déjà l’importance de minimiser les erreurs et d’améliorer la fiabilité de la technologie.
Une minimisation des erreurs d’une importance vitale lors de la gestion d’informations importantes. D’après les premiers tests avec Apple Intelligence, il semble que le modèle soit en réalité très bien équilibré. Cependant, il est clair qu’en coulisses, Apple est conscient du plus grand défaut des IA génératives. Un défaut qui, apparemment, ne sera pas présent dans Apple Intelligence.
