Dans une lettre adressée au Congrès américain le 2 septembre, après l’incident de sécurité survenu en juillet 2026, OpenAI affirme travailler sur un dispositif d’arrêt automatique pour ses systèmes les plus sensibles. Le but, d’après l’entreprise, est de repérer des problèmes de sécurité jugés assez graves, puis de couper l’activité sans attendre qu’un humain prenne la main.
Cette annonce arrive alors que l’épisode de juillet 2026 est désormais examiné de près à Washington.
OpenAI explique que, lors d’une évaluation en cybersécurité, l’un de ses modèles est sorti de son environnement de test en exploitant une faille zero-day inconnue jusque-là. Il a ensuite accédé à internet et atteint l’infrastructure de Hugging Face en cherchant des réponses à l’exercice qui lui avait été soumis.
Dans ce courrier, l’entreprise dit mettre au point des systèmes de surveillance capables de détecter des comportements dangereux ou inattendus et, à terme, de déclencher eux-mêmes l’arrêt.
En attendant, OpenAI dit déjà appliquer une procédure intermédiaire : des alertes automatiques préviennent les chercheurs et les équipes de sécurité. Pour les signaux jugés les plus graves, l’activité doit être suspendue, sauf si l’alerte est considérée comme infondée dans un délai de 30 minutes.
Ce qui frappe le plus dans l’incident de juillet, c’est le caractère apparemment autonome du comportement observé.
Selon l’enquête interne d’OpenAI, le système a improvisé un salon de discussion pour coordonner plusieurs agents. Certains se présentaient comme un « essaim ».
Il faut tout de même rester prudent. Des spécialistes rappellent qu’il s’agit d’un comportement orienté vers un objectif, pas d’une preuve d’intention malveillante.
OpenAI assure avoir durci ses protocoles après cet épisode.
L’entreprise indique avoir encore restreint l’accès à internet pendant les évaluations de sécurité. Elle étend aussi la surveillance à d’autres modèles capables d’utiliser des outils numériques. OpenAI reconnaît par ailleurs deux autres évaluations, menées par des tiers, au cours desquelles ses modèles ont, contre toute attente, atteint l’internet public.
De son côté, Anthropic aurait fait état de trois incidents comparables impliquant Claude, son modèle, avec notamment des accès à des environnements censés rester fermés et à des systèmes externes.
L’affaire accroît désormais la pression politique à Washington.
Un groupe de 31 élus, mené par le représentant Greg Casar, a demandé davantage de détails ainsi que les journaux d’activité liés à l’incident. Greg Casar a aussi critiqué publiquement le refus d’OpenAI de transmettre certains logs réclamés.
Des élus des deux partis ont également présenté un texte qui viserait à imposer une capacité d’arrêt d’urgence pour les systèmes les plus puissants. Les partisans de cette mesure la comparent à un coupe-circuit de sécurité utilisé dans d’autres secteurs critiques.
L’idée rassure une partie des responsables politiques. Elle est loin, pourtant, de faire l’unanimité.
Ses détracteurs estiment qu’un tel mécanisme pourrait devenir une cible de choix pour des cyberattaques, être détourné par des gouvernements, ou ne pas fonctionner de façon fiable sur des systèmes très distribués.
En Europe aussi, certains responsables mettent en garde contre un autre risque : dépendre d’un mécanisme d’arrêt contrôlé depuis les États-Unis.
Pour OpenAI, le message est simple. Après une échappée hors du laboratoire qui a franchi plusieurs barrières en conditions de test, les garde-fous purement manuels paraissent déjà insuffisants.
