Dario Amodei, qui dirige Anthropic, Sam Altman chez OpenAI, Demis Hassabis pour Google DeepMind et Elon Musk, fondateur de xAI, tiennent désormais un discours qu’on n’entendait pas vraiment chez eux il y a peu: il faudrait ralentir le développement des systèmes d’intelligence artificielle les plus puissants. Le paradoxe saute aux yeux, puisque leurs entreprises participent elles-mêmes à cette accélération, au moment où la discussion sur des règles plus dures monte d’un cran.
Le signal reste fort. Dario Amodei appelle publiquement à « ralentir le rythme », et Sam Altman dit qu’OpenAI s’alignerait sur l’engagement d’Anthropic, à savoir faire évaluer ses modèles par des experts externes sur les questions de sécurité.
Ce qui frappe, c’est que cet avertissement vient précisément des acteurs qui poussent la machine. La question reste donc entière: assiste-t-on à un vrai changement de cap, ou à une façon de garder la main avant l’arrivée de règles plus contraignantes? Mieux vaut rester prudent.
La pression, elle, s’est nettement renforcée après plusieurs alertes venues de l’intérieur d’Anthropic. Le chercheur Jacob Coxon a quitté l’entreprise, estimant que le secteur ne développait pas de manière responsable des modèles susceptibles de présenter un risque existentiel.
Un autre scientifique d’Anthropic, Evan Hubinger, a écrit que cette technologie pourrait aller jusqu’à tuer l’humanité entière. Il chiffre ce risque à plus de 10 % sur la prochaine décennie. Dario Amodei, de son côté, a parlé de « conséquences dévastatrices » pouvant survenir en quelques mois, avec par exemple des agents autonomes hors de contrôle capables de s’implanter sur Internet. Le ton est franchement alarmiste, loin de l’optimisme commercial habituel de la Silicon Valley.
La proposition portée par Anthropic tient en trois points: donner à des évaluateurs indépendants un accès proche de celui des employés; obtenir des accords entre démocraties autour de standards communs de sécurité; puis mettre en place une coordination mondiale sur les questions de sûreté, y compris avec des régimes autoritaires comme la Chine.
Sur le papier, l’idée est simple: éviter qu’une entreprise, ou qu’un État, parte seul avec des systèmes devenus trop puissants. Sauf que cette vision bute tout de suite sur la réalité géopolitique.
Beaucoup de chercheurs restent sceptiques. David Krueger considère ces mesures comme « trop peu, trop tard » et réclame un moratoire international plus large. Stuart Russell, lui, défend une autre idée: avant de continuer cette escalade, il faut comprendre bien plus en profondeur les enjeux de sécurité.
Aux États-Unis, le cadre politique reste flou. Washington demeure engagé dans la compétition mondiale; plusieurs projets de loi ont déjà été affaiblis sous la pression des entreprises et de l’écosystème des start-up; et Mike Johnson, président de la Chambre des représentants, a indiqué sans détour que le Congrès ne prendra pas la tête sur ce sujet. En pratique, une grande part de la responsabilité retombe donc sur les sociétés privées.
Tout n’est pas figé pour autant. OpenAI assure avoir temporairement ralenti le développement de ses modèles les plus avancés afin de renforcer ses protocoles de sécurité, selon l’entreprise.
En Californie, de nouvelles lois prévues pour 2026 mettront en place des audits indépendants réalisés par des tiers ainsi qu’un registre public des auditeurs. Elles viennent après l’obligation adoptée en 2025, qui impose aux développeurs de pointe de publier leurs protocoles de sûreté et de signaler les incidents critiques. Reste que cette volonté de prudence se heurte de plein fouet à la compétition stratégique, surtout face à la Chine. Donald Trump a déjà minimisé les arguments en faveur d’un ralentissement, au nom de l’avantage technologique.
Et puis il n’y a pas que les scénarios catastrophe. Les effets sociaux, eux, sont déjà massifs: d’après le Fonds monétaire international, environ 60 % des emplois dans les économies avancées sont exposés à cette vague technologique. Autrement dit, même sans apocalypse, la vitesse du développement de l’IA est déjà une question de société majeure.
Suivez-moi sur Twitter: @pierrevitre
