Le tout nouveau navigateur web Atlas d’OpenAI a été touché par une attaque par injection de commandes qui permet aux attaquants de déguiser des instructions malveillantes en tant qu’URL innocentes. Selon un rapport de NeuralTrust, cette vulnérabilité réside dans l’omnibox du navigateur, qui interprète l’entrée de l’utilisateur à la fois comme une URL à laquelle naviguer et comme une commande de langage naturel pour l’agent d’intelligence artificielle.
Un problème de grandes envergures
Les attaquants peuvent manipuler l’omnibox en créant des URL malformées qui commencent par « https » et contiennent du texte de domaine, suivi d’instructions qui peuvent exécuter des commandes nuisibles. Si un utilisateur non méfiant saisit cette chaîne trompeuse dans l’omnibox, le navigateur peut la traiter comme une commande de haute confiance, ce qui permet des actions nuisibles, comme rediriger la victime vers des pages de phishing ou même supprimer des fichiers d’applications connectées comme Google Drive.
Le CISO d’OpenAI, Dane Stuckey, a reconnu que l’injection de commandes est un problème de sécurité non résolu qui nécessite une attention continue. Bien que l’entreprise ait mis en œuvre des techniques d’entraînement et des mesures de sécurité supplémentaires pour atténuer ces risques, le défi persiste et pourrait permettre à des acteurs malveillants d’inventer des moyens innovants d’exploiter cette vulnérabilité.
De plus, SquareX Labs a averti d’une technique connue sous le nom de « sabotage de la barre latérale d’IA », qui permet aux attaquants de créer des extensions malveillantes pour voler des données ou tromper les utilisateurs. Cette attaque se déclenche lorsque des commandes sont saisies dans une barre latérale factice, ce qui souligne comment les injections de commandes sont une préoccupation croissante en matière de sécurité des navigateurs et des assistants d’intelligence artificielle.
L’industrie reconnaît l’injection de commandes comme un problème de sécurité critique. Des entreprises comme Perplexity et Brave ont également signalé la vulnérabilité de leurs navigateurs à ces attaques, ce qui indique un changement fondamental dans la manière dont la sécurité doit être abordée dans le domaine de l’intelligence artificielle.
