Jacob Coxon, 27 ans, travaille sur le préentraînement et a passé près de trois ans chez OpenAI. Sur X, il a annoncé son départ d’Anthropic, ainsi que sa sortie complète du secteur de l’IA. Dans son message, il dit ne plus vouloir prendre part à une dynamique qu’il juge dangereuse au sein des grands laboratoires.
Dans ce même message, il estime qu’Anthropic comme OpenAI ne se comportent pas de façon responsable. À ses yeux, les principaux labos avancent vers une forme de superintelligence capable de s’améliorer elle-même, tout en « jouant avec nos vies ». Il ne prétend pas que les efforts en matière de sécurité sont factices. Son reproche est ailleurs : face à l’intensité de la concurrence, ces efforts restent trop faibles.
Démission chez Anthropic : pourquoi le message de Jacob Coxon fait autant de bruit
Au fond, ce qu’il vise, c’est cette logique de course permanente. Coxon explique que beaucoup de chercheurs dans les grands laboratoires voient très bien les risques, mais continuent quand même, parce qu’ils pensent que d’autres iront encore plus vite s’ils lèvent le pied. Le problème, dans cette lecture, n’est pas seulement technique. Il est aussi économique et stratégique.
Il ajoute sur X qu’une décision aussi lourde que le développement de capacités de ce niveau ne devrait pas reposer uniquement entre les mains d’entreprises privées. La critique rejoint des demandes de plus en plus nombreuses en faveur d’une supervision publique plus forte, de règles communes et de garde-fous partagés à l’échelle du secteur.
Un responsable d’Anthropic confirme publiquement une inquiétude existentielle
L’affaire a pris une autre ampleur quand Evan Hubinger, qui dirige la recherche sur l’alignement chez Anthropic, a répondu publiquement à Coxon sur X. Hubinger a écrit que Coxon avait « raison » et a ajouté qu’il pensait, à titre personnel, qu’il y avait plus de 10 % de chances que ces systèmes puissent entraîner la mort de tous les humains au cours de la prochaine décennie.
Ce n’était ni une fuite, ni une phrase arrachée à son contexte, ni un document interne qui aurait circulé malgré lui. C’était une prise de parole volontaire, publiée sur X et signée en son nom, par la personne chargée précisément des questions d’alignement dans l’un des laboratoires les plus en vue du moment.
C’est ce caractère public, assumé, qui donne à l’épisode une telle portée. Prudence quand même. Hubinger a précisé sur X qu’il s’agissait d’une estimation subjective et personnelle, pas d’une prévision officielle d’Anthropic. D’autres chercheurs tout aussi sérieux situent ce risque bien plus bas, parfois proche de zéro, surtout s’ils rejettent l’idée que la trajectoire actuelle débouchera réellement sur une superintelligence capable de s’auto-améliorer.
Anthropic reconnaît ne pas avoir de solution claire aujourd’hui
Hubinger a aussi reconnu sur X qu’Anthropic essayait de faire au mieux, mais n’avait toujours pas de plan clair pour résoudre le problème de l’alignement à l’échelle d’une superintelligence, et ne semblait pas particulièrement bien parti pour en élaborer un. Son inquiétude vise d’abord les systèmes à venir, pas un danger immédiat lié aux modèles actuels.
Cette séquence risque de relancer encore le débat sur la gouvernance du secteur, au moment même où l’idée d’une introduction en Bourse d’Anthropic circule. Pression commerciale, ambitions technologiques, équipes chargées de la sécurité : la fracture apparaît de plus en plus au grand jour.
Author: Manuel Bosque
{
"social": {
"email": "",
"facebook": "",
"twitter": "",
"linkedin": ""
},
"ja-JP": "",
"de-DE": "Manuel Bosque schreibt bei Softonic über Software: Desktop-Programme, Produktivitätswerkzeuge und kleine Tools, die ein Problem wirklich lösen. Sein Maßstab ist praktisch — was ein Programm tatsächlich leistet, was es dafür verlangt und für wen es sich lohnt —, deshalb misstraut er Funktionslisten und testet lieber selbst. Er gehört zum Team, das festlegt, wie Software auf der Seite behandelt wird, und arbeitet täglich mit KI-Werkzeugen in der redaktionellen Produktion.",
"en-US": "Manuel Bosque covers software at Softonic: desktop programs, productivity tools and the small utilities that solve one problem well. His approach is practical — what a program actually does, what it asks in return and who it is for — which is why he distrusts feature lists and prefers to test. He is part of the team that decides how software gets covered on the site, and works daily with AI tools applied to editorial production.",
"es-ES": "Manuel Bosque se ocupa de la cobertura de software en Softonic: programas de escritorio, herramientas de productividad y utilidades pequeñas que resuelven bien un solo problema. Su criterio es práctico —qué hace realmente un programa, qué pide a cambio y a quién le sirve—, y por eso desconfía de las listas de funciones y prefiere probar. Forma parte del equipo que decide cómo se cuenta el software en la web y trabaja a diario con herramientas de IA aplicadas a la producción editorial.",
"fr-FR": "Manuel Bosque couvre les logiciels chez Softonic : programmes de bureau, outils de productivité et petits utilitaires qui résolvent bien un seul problème. Son approche est pratique — ce qu'un logiciel fait vraiment, ce qu'il demande en échange et à qui il s'adresse —, d'où sa méfiance envers les listes de fonctionnalités et sa préférence pour l'essai. Il fait partie de l'équipe qui définit la manière de traiter le logiciel sur le site et travaille au quotidien avec des outils d'IA appliqués à la production éditoriale.",
"it-IT": "Manuel Bosque si occupa di software su Softonic: programmi per il desktop, strumenti di produttività e piccole utility che risolvono bene un solo problema. Il suo criterio è pratico — cosa fa davvero un programma, cosa chiede in cambio e a chi serve — e per questo diffida degli elenchi di funzioni e preferisce provare. Fa parte del team che decide come si racconta il software sul sito e lavora ogni giorno con strumenti di IA applicati alla produzione editoriale.",
"nl-NL": "Manuel Bosque schrijft bij Softonic over software: desktopprogramma's, productiviteitstools en kleine hulpprogramma's die één probleem echt oplossen. Zijn maatstaf is praktisch — wat een programma werkelijk doet, wat het daarvoor vraagt en voor wie het nuttig is — en daarom wantrouwt hij functielijstjes en test hij liever zelf. Hij maakt deel uit van het team dat bepaalt hoe software op de site wordt behandeld en werkt dagelijks met AI-tools in de redactionele productie.",
"pl-PL": "Manuel Bosque zajmuje się oprogramowaniem w Softonicu: programami na komputer, narzędziami do pracy i niewielkimi aplikacjami, które dobrze rozwiązują jeden problem. Jego kryterium jest praktyczne — co program naprawdę robi, czego wymaga w zamian i komu się przyda — dlatego nie ufa listom funkcji i woli sprawdzić sam. Należy do zespołu, który decyduje, jak pisać o oprogramowaniu w serwisie, i codziennie korzysta z narzędzi AI w produkcji redakcyjnej.",
"pt-BR": "Manuel Bosque cobre software na Softonic: programas para desktop, ferramentas de produtividade e pequenos utilitários que resolvem bem um problema só. Seu critério é prático — o que um programa realmente faz, o que pede em troca e para quem serve — e por isso desconfia de listas de recursos e prefere testar. Faz parte da equipe que define como o software é abordado no site e trabalha diariamente com ferramentas de IA aplicadas à produção editorial."
}
View all posts by Manuel Bosque
