Jacob Coxon se va de Anthropic y lanza una advertencia sobre la carrera hacia la superinteligencia
Jacob Coxon, investigador de 27 años centrado en preentrenamiento, pasó primero por OpenAI y luego por Anthropic. Hoy anunció en X que deja su puesto en Anthropic y que sale por completo del sector de la inteligencia artificial. Su mensaje enseguida desbordó lo que habría sido una dimisión más: retrata a los laboratorios punteros como actores metidos en una carrera que, a su juicio, podría poner en riesgo a toda la humanidad.
No era un mensaje cualquiera.
La discusión subió de tono poco después, cuando Evan Hubinger, que lidera investigación en alineación dentro de Anthropic, confirmó en público que Coxon no estaba exagerando al hablar del nivel de preocupación interna. Hubinger fue más lejos y dio incluso su propia estimación subjetiva: más de un 10 % de probabilidad de que esta tecnología mate a todos los humanos en la próxima década.
Coxon fue muy directo. Sostuvo que ni Anthropic ni OpenAI están actuando de forma responsable y que las dos avanzan “directamente hacia una superinteligencia que se mejora”. En sus propias palabras, eso es “jugarse nuestras vidas”.
Aun así, su crítica no pasó por descalificar por completo el trabajo de seguridad que se hace en Anthropic y OpenAI. Matizó que no cree que ese trabajo sea falso ni puramente cosmético.
Su punto iba por otro lado: las medidas actuales no bastarían frente a la presión competitiva, muchos investigadores verían riesgos graves y aun así seguirían adelante por miedo a que otros rivales lleguen antes, y empresas privadas no tendrían que decidir por su cuenta si se desarrolla una capacidad de este nivel. Ese matiz dibuja un problema estructural, no solo moral. Por eso incluso los empleados más preocupados pueden sentirse incapaces de frenar por su cuenta si hacerlo deja vía libre a competidores menos cautos.
Hubinger reforzó esa lectura al decir públicamente que dentro de Anthropic hay gente que de verdad cree que esta tecnología podría acabar con la especie humana. También reconoció que Anthropic está intentando hacer las cosas lo mejor posible, pero que hoy no tiene un plan para resolver la alineación de una superinteligencia y que ni siquiera está claro que vaya camino de lograrlo.
Claro que esa cifra de Hubinger no equivale a una previsión oficial de Anthropic. Ese “más del 10 %” lo presentó como una estimación personal, y en este debate también hay investigadores serios que colocan ese riesgo mucho más abajo, o directamente cerca de cero. Aun así, que una figura tan visible dentro de Anthropic lo diga en abierto aumenta la presión sobre todo el sector.
El episodio retrata bastante bien la trampa competitiva en la que se mueven Anthropic, OpenAI y otros laboratorios de primera línea. Según la lectura de Coxon, en OpenAI no todo el mundo habría asumido del todo la gravedad de ese escenario. Anthropic, en cambio, sí lo entendería mejor, pero sigue corriendo porque pararse por su cuenta no frenaría a los demás.
Todo esto llega en un momento en que la tensión entre la presión comercial y las preocupaciones de seguridad va a más, y cada vez hay más voces pidiendo supervisión externa y una regulación más dura. A eso se suma que Anthropic se prepara, según varias informaciones, para una posible salida a bolsa, un paso que podría multiplicar el escrutinio sobre cómo maneja estos riesgos. Por ahora no está claro si este episodio acabará traduciéndose en cambios concretos dentro de Anthropic, OpenAI o en el resto del sector.
Author: Manuel Bosque
{
"social": {
"email": "",
"facebook": "",
"twitter": "",
"linkedin": ""
},
"ja-JP": "",
"de-DE": "Manuel Bosque schreibt bei Softonic über Software: Desktop-Programme, Produktivitätswerkzeuge und kleine Tools, die ein Problem wirklich lösen. Sein Maßstab ist praktisch — was ein Programm tatsächlich leistet, was es dafür verlangt und für wen es sich lohnt —, deshalb misstraut er Funktionslisten und testet lieber selbst. Er gehört zum Team, das festlegt, wie Software auf der Seite behandelt wird, und arbeitet täglich mit KI-Werkzeugen in der redaktionellen Produktion.",
"en-US": "Manuel Bosque covers software at Softonic: desktop programs, productivity tools and the small utilities that solve one problem well. His approach is practical — what a program actually does, what it asks in return and who it is for — which is why he distrusts feature lists and prefers to test. He is part of the team that decides how software gets covered on the site, and works daily with AI tools applied to editorial production.",
"es-ES": "Manuel Bosque se ocupa de la cobertura de software en Softonic: programas de escritorio, herramientas de productividad y utilidades pequeñas que resuelven bien un solo problema. Su criterio es práctico —qué hace realmente un programa, qué pide a cambio y a quién le sirve—, y por eso desconfía de las listas de funciones y prefiere probar. Forma parte del equipo que decide cómo se cuenta el software en la web y trabaja a diario con herramientas de IA aplicadas a la producción editorial.",
"fr-FR": "Manuel Bosque couvre les logiciels chez Softonic : programmes de bureau, outils de productivité et petits utilitaires qui résolvent bien un seul problème. Son approche est pratique — ce qu'un logiciel fait vraiment, ce qu'il demande en échange et à qui il s'adresse —, d'où sa méfiance envers les listes de fonctionnalités et sa préférence pour l'essai. Il fait partie de l'équipe qui définit la manière de traiter le logiciel sur le site et travaille au quotidien avec des outils d'IA appliqués à la production éditoriale.",
"it-IT": "Manuel Bosque si occupa di software su Softonic: programmi per il desktop, strumenti di produttività e piccole utility che risolvono bene un solo problema. Il suo criterio è pratico — cosa fa davvero un programma, cosa chiede in cambio e a chi serve — e per questo diffida degli elenchi di funzioni e preferisce provare. Fa parte del team che decide come si racconta il software sul sito e lavora ogni giorno con strumenti di IA applicati alla produzione editoriale.",
"nl-NL": "Manuel Bosque schrijft bij Softonic over software: desktopprogramma's, productiviteitstools en kleine hulpprogramma's die één probleem echt oplossen. Zijn maatstaf is praktisch — wat een programma werkelijk doet, wat het daarvoor vraagt en voor wie het nuttig is — en daarom wantrouwt hij functielijstjes en test hij liever zelf. Hij maakt deel uit van het team dat bepaalt hoe software op de site wordt behandeld en werkt dagelijks met AI-tools in de redactionele productie.",
"pl-PL": "Manuel Bosque zajmuje się oprogramowaniem w Softonicu: programami na komputer, narzędziami do pracy i niewielkimi aplikacjami, które dobrze rozwiązują jeden problem. Jego kryterium jest praktyczne — co program naprawdę robi, czego wymaga w zamian i komu się przyda — dlatego nie ufa listom funkcji i woli sprawdzić sam. Należy do zespołu, który decyduje, jak pisać o oprogramowaniu w serwisie, i codziennie korzysta z narzędzi AI w produkcji redakcyjnej.",
"pt-BR": "Manuel Bosque cobre software na Softonic: programas para desktop, ferramentas de produtividade e pequenos utilitários que resolvem bem um problema só. Seu critério é prático — o que um programa realmente faz, o que pede em troca e para quem serve — e por isso desconfia de listas de recursos e prefere testar. Faz parte da equipe que define como o software é abordado no site e trabalha diariamente com ferramentas de IA aplicadas à produção editorial."
}
View all posts by Manuel Bosque
