Satya Nadella salió hoy a defender un cambio de fondo en la manera en que las empresas despliegan modelos avanzados de IA dentro de sus operaciones. Su punto de partida es simple y duro a la vez: hay que asumir desde el primer día que cualquier modelo puede verse comprometido, ya sea de código cerrado o con pesos abiertos, y diseñar los controles a partir de ahí, incluido un “freno de emergencia”.
Para Nadella, eso implica contar con un mecanismo real para que una persona autorizada pueda pausar o apagar un sistema mientras está trabajando. No propone fiarlo todo a que el propio modelo se autorregule. Propone tratarlo como se trataría un riesgo interno, con barreras y permisos definidos fuera del modelo.
Lo dice cuando estas herramientas ya se están metiendo en flujos de trabajo cada vez más sensibles. El CEO de Microsoft advirtió que, a diferencia del software tradicional, el comportamiento de los modelos actuales no puede atribuirse de forma fiable a rutas de código, datos de entrenamiento o pesos concretos. Y, aun con esa falta de trazabilidad, muchas compañías ya les están dando acceso a información crítica y a tareas de alto impacto.
Su idea se ordena alrededor de tres capas que, en su opinión, conviene mantener separadas: la inteligencia del modelo, el software que ejecuta la tarea y la autoridad para actuar.
Desde esa lógica, el proveedor del modelo no debería decidir qué puede hacer el sistema dentro de una organización. Ese poder, sostuvo, tiene que quedarse en manos de la empresa usuaria, que al final es la que conoce sus datos, sus riesgos y sus límites operativos.
Nadella condensó ese planteamiento en siete principios de gobernanza. Los tres primeros pasan por evitar la dependencia de un único modelo, exigir registros inviolables y legibles por humanos para cualquier acción relevante, y someter los sistemas a pruebas continuas frente a fallos y ataques.
A esos tres les sumó otros cuatro puntos: que cada organización defina accesos y capacidades, que las auditorías sean independientes del modelo revisado, que exista una contención real mediante controles de apagado y que los incidentes se comuniquen con rapidez.
También defendió que el razonamiento transparente es “innegociable”, aunque enseguida puso un matiz importante. Que un sistema explique por qué responde de cierta manera no basta por sí solo. Según Nadella, esa explicación puede no reflejar con fidelidad lo que realmente ocurrió dentro del modelo.
El momento en que lanza esta propuesta también pesa. Distintos estudios sitúan en el 88% el porcentaje de organizaciones que ya usaban estas herramientas en al menos un área del negocio en 2025, mientras que solo el 8% contaba con un marco integral de gobernanza.
Además, según esos mismos recuentos, los incidentes de seguridad relacionados con esta tecnología habrían llegado a 362 en 2025, un 55% más que el año anterior.
La propuesta ya ha encontrado respaldo dentro y fuera de Microsoft. Mustafa Suleyman, CEO de Microsoft AI, la apoyó públicamente, y el congresista estadounidense Ted Lieu respalda una iniciativa bipartidista para impulsar una especie de “interruptor de seguridad”.
Lo que Nadella está diciendo, en el fondo, no tiene mucha vuelta: si estos modelos van a entrar en procesos críticos, no alcanza con hacerlos más capaces. También hay que poder frenarlos. Cuándo llegarán controles de este tipo a convertirse en un estándar del despliegue empresarial de modelos avanzados, por ahora, sigue sin estar claro.
Author: Manuel Bosque
{
"social": {
"email": "",
"facebook": "",
"twitter": "",
"linkedin": ""
},
"ja-JP": "",
"de-DE": "Manuel Bosque schreibt bei Softonic über Software: Desktop-Programme, Produktivitätswerkzeuge und kleine Tools, die ein Problem wirklich lösen. Sein Maßstab ist praktisch — was ein Programm tatsächlich leistet, was es dafür verlangt und für wen es sich lohnt —, deshalb misstraut er Funktionslisten und testet lieber selbst. Er gehört zum Team, das festlegt, wie Software auf der Seite behandelt wird, und arbeitet täglich mit KI-Werkzeugen in der redaktionellen Produktion.",
"en-US": "Manuel Bosque covers software at Softonic: desktop programs, productivity tools and the small utilities that solve one problem well. His approach is practical — what a program actually does, what it asks in return and who it is for — which is why he distrusts feature lists and prefers to test. He is part of the team that decides how software gets covered on the site, and works daily with AI tools applied to editorial production.",
"es-ES": "Manuel Bosque se ocupa de la cobertura de software en Softonic: programas de escritorio, herramientas de productividad y utilidades pequeñas que resuelven bien un solo problema. Su criterio es práctico —qué hace realmente un programa, qué pide a cambio y a quién le sirve—, y por eso desconfía de las listas de funciones y prefiere probar. Forma parte del equipo que decide cómo se cuenta el software en la web y trabaja a diario con herramientas de IA aplicadas a la producción editorial.",
"fr-FR": "Manuel Bosque couvre les logiciels chez Softonic : programmes de bureau, outils de productivité et petits utilitaires qui résolvent bien un seul problème. Son approche est pratique — ce qu'un logiciel fait vraiment, ce qu'il demande en échange et à qui il s'adresse —, d'où sa méfiance envers les listes de fonctionnalités et sa préférence pour l'essai. Il fait partie de l'équipe qui définit la manière de traiter le logiciel sur le site et travaille au quotidien avec des outils d'IA appliqués à la production éditoriale.",
"it-IT": "Manuel Bosque si occupa di software su Softonic: programmi per il desktop, strumenti di produttività e piccole utility che risolvono bene un solo problema. Il suo criterio è pratico — cosa fa davvero un programma, cosa chiede in cambio e a chi serve — e per questo diffida degli elenchi di funzioni e preferisce provare. Fa parte del team che decide come si racconta il software sul sito e lavora ogni giorno con strumenti di IA applicati alla produzione editoriale.",
"nl-NL": "Manuel Bosque schrijft bij Softonic over software: desktopprogramma's, productiviteitstools en kleine hulpprogramma's die één probleem echt oplossen. Zijn maatstaf is praktisch — wat een programma werkelijk doet, wat het daarvoor vraagt en voor wie het nuttig is — en daarom wantrouwt hij functielijstjes en test hij liever zelf. Hij maakt deel uit van het team dat bepaalt hoe software op de site wordt behandeld en werkt dagelijks met AI-tools in de redactionele productie.",
"pl-PL": "Manuel Bosque zajmuje się oprogramowaniem w Softonicu: programami na komputer, narzędziami do pracy i niewielkimi aplikacjami, które dobrze rozwiązują jeden problem. Jego kryterium jest praktyczne — co program naprawdę robi, czego wymaga w zamian i komu się przyda — dlatego nie ufa listom funkcji i woli sprawdzić sam. Należy do zespołu, który decyduje, jak pisać o oprogramowaniu w serwisie, i codziennie korzysta z narzędzi AI w produkcji redakcyjnej.",
"pt-BR": "Manuel Bosque cobre software na Softonic: programas para desktop, ferramentas de produtividade e pequenos utilitários que resolvem bem um problema só. Seu critério é prático — o que um programa realmente faz, o que pede em troca e para quem serve — e por isso desconfia de listas de recursos e prefere testar. Faz parte da equipe que define como o software é abordado no site e trabalha diariamente com ferramentas de IA aplicadas à produção editorial."
}
View all posts by Manuel Bosque
