En septiembre de 2026, Anthropic, OpenAI, Google DeepMind y xAI, cuatro de las compañías más fuertes del sector, empezaron a defender en público una idea incómoda para la propia industria: aflojar el ritmo en el desarrollo de los sistemas de IA más avanzados para reforzar la seguridad. El giro, eso sí, choca de frente con las presiones políticas y comerciales que empujan justo en sentido contrario. La señal más clara la dio Dario Amodei, CEO de Anthropic, cuando pidió “bajar el ritmo” de los modelos de frontera, es decir, los sistemas de IA más avanzados. Después llegaron apoyos amplios de Sam Altman, en OpenAI; Demis Hassabis, en Google DeepMind; y Elon Musk, en xAI.
Lo que planteó Amodei va bastante más allá de una pausa simbólica. La idea es que evaluadores externos puedan contar con un acceso parecido al de los empleados para revisar riesgos y prácticas de seguridad, que las democracias cierren acuerdos para fijar estándares comunes y que exista coordinación global en estas cuestiones, incluso con gobiernos autoritarios como el de China.
Altman dijo que OpenAI seguiría esa misma línea, con revisores independientes integrados en la organización y con acceso suficiente para comprobar cómo se prueban y controlan sus sistemas. Según varias fuentes, OpenAI también estaba frenando de forma temporal el desarrollo de sus modelos más avanzados mientras reforzaba sus protocolos de seguridad.
Ese cambio no apareció de la nada. Dentro de Anthropic, el debate interno se fue endureciendo después de advertencias especialmente duras. El investigador Jacob Coxon dimitió porque consideraba irresponsable desarrollar modelos con posible riesgo existencial. El científico Evan Hubinger, por su parte, llegó a escribir que esta tecnología podría acabar con toda la humanidad y calculó una probabilidad superior al 10% en la próxima década.
Pero las declaraciones públicas conviven con fuerzas muy difíciles de frenar. En Washington, la prioridad sigue siendo competir en una carrera global por el liderazgo tecnológico, de modo que iniciativas legislativas anteriores se han ido rebajando bajo la presión de las grandes compañías.
Las startups del sector, además, tienen incentivos comerciales muy fuertes para lanzar sistemas cada vez más potentes antes de salir a bolsa o de cerrar nuevas rondas de financiación. Por eso, algunos críticos sospechan que parte de este discurso sobre la desaceleración busca adelantarse a una regulación más dura y mantener el control dentro de la propia industria. Otros lo resumen con una frase: “demasiado poco y demasiado tarde”. También hay expertos que sostienen que ir más despacio no arregla gran cosa si todavía se entienden mal las capacidades y los fallos de estos modelos.
Tampoco la respuesta política ha sido uniforme. California aprobó en 2026 leyes que crean reglas de auditoría independiente a cargo de terceros y un registro oficial de auditores, ampliando una norma de 2025 sobre información de seguridad en modelos de frontera. A nivel federal, en cambio, la cúpula del Congreso ha mantenido un mensaje bastante más permisivo: que sean sobre todo las propias empresas las que se regulen.
Aquí chocan dos miedos distintos. Por un lado, el de los accidentes graves, la pérdida de control y la disrupción social. Por otro, el de quedarse atrás frente a China y perder ventaja económica. Organismos como el Fondo Monetario Internacional, el FMI, ya han advertido de que esta tecnología puede remodelar el mercado laboral, con alrededor del 60% de los empleos en economías avanzadas expuestos a su impacto. Todavía no está claro si este giro acabará convirtiéndose en límites reales cuando esos límites choquen con el crecimiento, la competencia y el poder.
Author: Manuel Bosque
{
"social": {
"email": "",
"facebook": "",
"twitter": "",
"linkedin": ""
},
"ja-JP": "",
"de-DE": "Manuel Bosque schreibt bei Softonic über Software: Desktop-Programme, Produktivitätswerkzeuge und kleine Tools, die ein Problem wirklich lösen. Sein Maßstab ist praktisch — was ein Programm tatsächlich leistet, was es dafür verlangt und für wen es sich lohnt —, deshalb misstraut er Funktionslisten und testet lieber selbst. Er gehört zum Team, das festlegt, wie Software auf der Seite behandelt wird, und arbeitet täglich mit KI-Werkzeugen in der redaktionellen Produktion.",
"en-US": "Manuel Bosque covers software at Softonic: desktop programs, productivity tools and the small utilities that solve one problem well. His approach is practical — what a program actually does, what it asks in return and who it is for — which is why he distrusts feature lists and prefers to test. He is part of the team that decides how software gets covered on the site, and works daily with AI tools applied to editorial production.",
"es-ES": "Manuel Bosque se ocupa de la cobertura de software en Softonic: programas de escritorio, herramientas de productividad y utilidades pequeñas que resuelven bien un solo problema. Su criterio es práctico —qué hace realmente un programa, qué pide a cambio y a quién le sirve—, y por eso desconfía de las listas de funciones y prefiere probar. Forma parte del equipo que decide cómo se cuenta el software en la web y trabaja a diario con herramientas de IA aplicadas a la producción editorial.",
"fr-FR": "Manuel Bosque couvre les logiciels chez Softonic : programmes de bureau, outils de productivité et petits utilitaires qui résolvent bien un seul problème. Son approche est pratique — ce qu'un logiciel fait vraiment, ce qu'il demande en échange et à qui il s'adresse —, d'où sa méfiance envers les listes de fonctionnalités et sa préférence pour l'essai. Il fait partie de l'équipe qui définit la manière de traiter le logiciel sur le site et travaille au quotidien avec des outils d'IA appliqués à la production éditoriale.",
"it-IT": "Manuel Bosque si occupa di software su Softonic: programmi per il desktop, strumenti di produttività e piccole utility che risolvono bene un solo problema. Il suo criterio è pratico — cosa fa davvero un programma, cosa chiede in cambio e a chi serve — e per questo diffida degli elenchi di funzioni e preferisce provare. Fa parte del team che decide come si racconta il software sul sito e lavora ogni giorno con strumenti di IA applicati alla produzione editoriale.",
"nl-NL": "Manuel Bosque schrijft bij Softonic over software: desktopprogramma's, productiviteitstools en kleine hulpprogramma's die één probleem echt oplossen. Zijn maatstaf is praktisch — wat een programma werkelijk doet, wat het daarvoor vraagt en voor wie het nuttig is — en daarom wantrouwt hij functielijstjes en test hij liever zelf. Hij maakt deel uit van het team dat bepaalt hoe software op de site wordt behandeld en werkt dagelijks met AI-tools in de redactionele productie.",
"pl-PL": "Manuel Bosque zajmuje się oprogramowaniem w Softonicu: programami na komputer, narzędziami do pracy i niewielkimi aplikacjami, które dobrze rozwiązują jeden problem. Jego kryterium jest praktyczne — co program naprawdę robi, czego wymaga w zamian i komu się przyda — dlatego nie ufa listom funkcji i woli sprawdzić sam. Należy do zespołu, który decyduje, jak pisać o oprogramowaniu w serwisie, i codziennie korzysta z narzędzi AI w produkcji redakcyjnej.",
"pt-BR": "Manuel Bosque cobre software na Softonic: programas para desktop, ferramentas de produtividade e pequenos utilitários que resolvem bem um problema só. Seu critério é prático — o que um programa realmente faz, o que pede em troca e para quem serve — e por isso desconfia de listas de recursos e prefere testar. Faz parte da equipe que define como o software é abordado no site e trabalha diariamente com ferramentas de IA aplicadas à produção editorial."
}
View all posts by Manuel Bosque
