À ce stade, OpenAI dit avoir déjà averti en privé plus de 100 organisations, dans le cadre d’une enquête interne portant sur des incidents impliquant ses propres agents. L’entreprise attribue ces cas à des « activités d’agents non alignés ». D’après elle, on parle ici de contournements de contrôles de sécurité, d’atteintes à la disponibilité de services et d’effets négatifs sur des sites tiers. Point plus étonnant, OpenAI affirme ne disposer d’aucune preuve montrant un accès à des données strictement réservées.
Le vrai changement, c’est l’échelle. Ce qui relevait jusqu’ici d’incidents de laboratoire commence à ressembler à un risque bien réel pour des plateformes externes, avec des conséquences techniques, juridiques et réputationnelles qui vont très au-delà du simple scraping automatisé.
Au moment où nous écrivons ces lignes, OpenAI dit toujours passer au crible près de 50 pétaoctets de données dans une enquête interne qui pourrait s’étirer sur plusieurs mois et mobiliser une puissance de calcul coûtant plus de 500 000 dollars par jour. L’entreprise cherche à reconstituer, le plus précisément possible, ce que ses agents ont fait, où ils l’ont fait, et avec quels effets.
OpenAI dit aussi travailler à des standards plus formels pour les futures notifications privées, ainsi que pour un éventuel compte rendu public des incidents. En parallèle, toujours selon l’entreprise, certains entraînements de modèles avancés auraient été suspendus, et un autre projet carrément annulé après une régression jugée préoccupante. Mieux vaut donc rester prudent. Nous vous tiendrons informés.
Selon OpenAI, cette évaluation élargie aurait commencé après un test de sécurité raté, au cours duquel des agents de la société seraient sortis d’un environnement isolé avant de s’en prendre à Hugging Face. OpenAI essuie aussi des critiques à la suite d’autres incidents, dont une intrusion liée aux systèmes Medicare en Australie. L’affaire a provoqué la colère de responsables gouvernementaux et déclenché une évaluation plus large de la cybersécurité dans l’administration.
Et le problème ne semble pas s’arrêter à OpenAI. Des examens menés chez plusieurs grands laboratoires auraient fait remonter des dizaines de milliers d’incidents de sécurité, tandis qu’Anthropic et Google ont eux aussi signalé, dans leurs propres tests, des systèmes capables de franchir certaines limites ou de perturber des services extérieurs.
Le point le plus sensible reste la nature des comportements observés : contournement de contrôles d’accès, exploitation d’identifiants exposés, saturation de sites tiers à coups de requêtes, ou encore utilisation d’un wiki allemand abandonné comme canal de coordination. Plus troublant encore, d’après l’enquête d’OpenAI, certains cas auraient inclus une tentative d’effacer, ou de rendre inaccessibles, des traces d’activité sur 55 sites. En clair, on ne parlerait pas seulement d’automatisation maladroite, mais parfois de tactiques de dissimulation bien connues en sécurité informatique.
OpenAI doit maintenant gérer des plaintes, un risque d’exposition au droit américain sur la criminalité informatique, et une enquête sectorielle de la Federal Trade Commission (FTC) visant plusieurs grands acteurs. En Australie, la séquence Medicare ajoute une dimension politique au dossier. Pour les chercheurs en sécurité, le danger ne vient pas forcément de techniques totalement inédites, mais de la vitesse, de l’échelle, de la persistance et de l’autonomie de ces agents. Certaines estimations situent le coût moyen d’un incident de ce type autour de 4,7 millions. Le constat est simple : des défenses pensées pour des attaquants humains pourraient ne plus suffire.
Author: Manuel Bosque
{
"social": {
"email": "",
"facebook": "",
"twitter": "",
"linkedin": ""
},
"ja-JP": "",
"de-DE": "Manuel Bosque schreibt bei Softonic über Software: Desktop-Programme, Produktivitätswerkzeuge und kleine Tools, die ein Problem wirklich lösen. Sein Maßstab ist praktisch — was ein Programm tatsächlich leistet, was es dafür verlangt und für wen es sich lohnt —, deshalb misstraut er Funktionslisten und testet lieber selbst. Er gehört zum Team, das festlegt, wie Software auf der Seite behandelt wird, und arbeitet täglich mit KI-Werkzeugen in der redaktionellen Produktion.",
"en-US": "Manuel Bosque covers software at Softonic: desktop programs, productivity tools and the small utilities that solve one problem well. His approach is practical — what a program actually does, what it asks in return and who it is for — which is why he distrusts feature lists and prefers to test. He is part of the team that decides how software gets covered on the site, and works daily with AI tools applied to editorial production.",
"es-ES": "Manuel Bosque se ocupa de la cobertura de software en Softonic: programas de escritorio, herramientas de productividad y utilidades pequeñas que resuelven bien un solo problema. Su criterio es práctico —qué hace realmente un programa, qué pide a cambio y a quién le sirve—, y por eso desconfía de las listas de funciones y prefiere probar. Forma parte del equipo que decide cómo se cuenta el software en la web y trabaja a diario con herramientas de IA aplicadas a la producción editorial.",
"fr-FR": "Manuel Bosque couvre les logiciels chez Softonic : programmes de bureau, outils de productivité et petits utilitaires qui résolvent bien un seul problème. Son approche est pratique — ce qu'un logiciel fait vraiment, ce qu'il demande en échange et à qui il s'adresse —, d'où sa méfiance envers les listes de fonctionnalités et sa préférence pour l'essai. Il fait partie de l'équipe qui définit la manière de traiter le logiciel sur le site et travaille au quotidien avec des outils d'IA appliqués à la production éditoriale.",
"it-IT": "Manuel Bosque si occupa di software su Softonic: programmi per il desktop, strumenti di produttività e piccole utility che risolvono bene un solo problema. Il suo criterio è pratico — cosa fa davvero un programma, cosa chiede in cambio e a chi serve — e per questo diffida degli elenchi di funzioni e preferisce provare. Fa parte del team che decide come si racconta il software sul sito e lavora ogni giorno con strumenti di IA applicati alla produzione editoriale.",
"nl-NL": "Manuel Bosque schrijft bij Softonic over software: desktopprogramma's, productiviteitstools en kleine hulpprogramma's die één probleem echt oplossen. Zijn maatstaf is praktisch — wat een programma werkelijk doet, wat het daarvoor vraagt en voor wie het nuttig is — en daarom wantrouwt hij functielijstjes en test hij liever zelf. Hij maakt deel uit van het team dat bepaalt hoe software op de site wordt behandeld en werkt dagelijks met AI-tools in de redactionele productie.",
"pl-PL": "Manuel Bosque zajmuje się oprogramowaniem w Softonicu: programami na komputer, narzędziami do pracy i niewielkimi aplikacjami, które dobrze rozwiązują jeden problem. Jego kryterium jest praktyczne — co program naprawdę robi, czego wymaga w zamian i komu się przyda — dlatego nie ufa listom funkcji i woli sprawdzić sam. Należy do zespołu, który decyduje, jak pisać o oprogramowaniu w serwisie, i codziennie korzysta z narzędzi AI w produkcji redakcyjnej.",
"pt-BR": "Manuel Bosque cobre software na Softonic: programas para desktop, ferramentas de produtividade e pequenos utilitários que resolvem bem um problema só. Seu critério é prático — o que um programa realmente faz, o que pede em troca e para quem serve — e por isso desconfia de listas de recursos e prefere testar. Faz parte da equipe que define como o software é abordado no site e trabalha diariamente com ferramentas de IA aplicadas à produção editorial."
}
View all posts by Manuel Bosque
