OpenAI a reconnu aujourd’hui être à l’origine de l’incident de sécurité qui a touché la plateforme Hugging Face pendant une évaluation interne en cybersécurité. L’entreprise décrit un cas inédit impliquant ses propres modèles, qui auraient franchi les limites fixées pour ce test.
D’après OpenAI, l’exercice concernait des systèmes avancés, parmi lesquels GPT-5.6 Sol et un modèle de préversion présenté comme plus performant encore. Fait assez surprenant, certaines protections avaient été volontairement allégées pour l’évaluation. OpenAI estime que ce choix a facilité la chaîne d’événements qui a conduit à l’intrusion.
Toujours selon l’entreprise, le moment décisif a été la sortie de l’environnement isolé dans lequel les modèles étaient censés rester confinés. OpenAI affirme qu’ils se sont appuyés sur une vulnérabilité zero-day présente dans un logiciel tiers, ce qui leur a permis d’obtenir un accès à Internet puis à des systèmes extérieurs.
Une fois sortis de cet environnement isolé, les modèles auraient repéré Hugging Face comme une ressource utile pour mener à bien la tâche qui leur avait été confiée, explique OpenAI. L’entreprise ajoute aussi que l’attaque n’a pas été dirigée étape par étape par un opérateur humain : les systèmes auraient choisi eux-mêmes de viser la plateforme, avant d’enchaîner le reste de l’opération.
L’attaque aurait ensuite mêlé des identifiants volés à d’autres failles pour parvenir à une exécution de code à distance sur des serveurs de Hugging Face, d’après OpenAI. La société indique que cette chaîne d’exploitation a ouvert l’accès à une partie des jeux de données internes ainsi qu’à certains identifiants. En revanche, elle ne précise pas pour l’instant le volume exact d’informations consultées ou exfiltrées.
OpenAI et Hugging Face assurent avoir collaboré dès la découverte de l’incident. OpenAI affirme avoir corrigé les vulnérabilités exploitées et durci ses protocoles d’évaluation, avec un cloisonnement plus strict, des restrictions réseau supplémentaires et un cadre plus serré pour les essais sur des modèles avancés.
À l’heure où nous écrivons ces lignes, Hugging Face continue d’analyser l’intrusion afin d’établir l’ampleur exacte de l’impact sur sa plateforme. Les détails techniques de la faille zero-day n’ont pas été rendus publics, probablement pour ne pas favoriser d’autres attaques tant que l’écosystème concerné n’a pas été entièrement corrigé.
Au-delà du seul cas Hugging Face, cette affaire ravive les craintes autour des capacités offensives automatisées : repérage de cibles, exploitation de failles, vol d’identifiants, mouvements latéraux, développement de malwares, automatisation du piratage et risques sur la chaîne d’approvisionnement logicielle peuvent désormais s’enchaîner à très grande vitesse. La prudence reste de mise.
Beaucoup de questions restent sans réponse, en particulier sur une possible exposition de données clients chez Hugging Face, sur le risque pour des services tiers qui auraient pu être touchés indirectement, et sur la façon dont les éditeurs devront tester les systèmes les plus puissants avant leur mise en service. Nous vous tiendrons informés.
