{"id":431423,"date":"2026-10-12T12:40:00","date_gmt":"2026-10-12T10:40:00","guid":{"rendered":"https:\/\/cms-articles.softonic.io\/es\/?p=431423"},"modified":"2026-10-12T12:40:08","modified_gmt":"2026-10-12T10:40:08","slug":"satya-nadella-pide-un-freno-de-emergencia-para-la-ia-avanzada-poder-pausarla-o-apagarla","status":"publish","type":"post","link":"https:\/\/cms-articles.softonic.io\/es\/satya-nadella-pide-un-freno-de-emergencia-para-la-ia-avanzada-poder-pausarla-o-apagarla\/","title":{"rendered":"Satya Nadella pide un \u201cfreno de emergencia\u201d para la IA avanzada: poder pausarla o apagarla"},"content":{"rendered":"

Satya Nadella sali\u00f3 hoy a defender un cambio de fondo<\/strong> en la manera en que las empresas despliegan modelos avanzados de IA dentro de sus operaciones. Su punto de partida es simple y duro a la vez: hay que asumir desde el primer d\u00eda que cualquier modelo puede verse comprometido, ya sea de c\u00f3digo cerrado o con pesos abiertos, y dise\u00f1ar los controles a partir de ah\u00ed, incluido un \u201cfreno de emergencia\u201d.<\/p>\n

\r\n
\r\n
\r\n
\r\n \"Microsoft\r\n <\/div>\r\n
\r\n Microsoft Copilot<\/span>\r\n Descargar<\/a>\r\n <\/div>\r\n
\r\n <\/path><\/path><\/text><\/svg>\r\n <\/div>\r\n <\/div>\r\n
\r\n <\/span>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/a>\r\n <\/div>\r\n<\/div>\n\n\n\n

Para Nadella, eso implica contar con un mecanismo real<\/strong> para que una persona autorizada pueda pausar o apagar un sistema mientras est\u00e1 trabajando. No propone fiarlo todo a que el propio modelo se autorregule. Propone tratarlo como se tratar\u00eda un riesgo interno, con barreras y permisos definidos fuera del modelo.<\/p>\n\n

Lo dice cuando estas herramientas ya se est\u00e1n metiendo en flujos de trabajo cada vez m\u00e1s sensibles. El CEO de Microsoft advirti\u00f3 que, a diferencia del software tradicional, el comportamiento de los modelos actuales no puede atribuirse de forma fiable a rutas de c\u00f3digo<\/strong>, datos de entrenamiento o pesos concretos. Y, aun con esa falta de trazabilidad, muchas compa\u00f1\u00edas ya les est\u00e1n dando acceso a informaci\u00f3n cr\u00edtica y a tareas de alto impacto.<\/p>\n\n

Su idea se ordena alrededor de tres capas<\/strong> que, en su opini\u00f3n, conviene mantener separadas: la inteligencia del modelo, el software que ejecuta la tarea y la autoridad para actuar.<\/p>\n\n

Desde esa l\u00f3gica, el proveedor del modelo no deber\u00eda decidir qu\u00e9 puede hacer el sistema dentro de una organizaci\u00f3n. Ese poder, sostuvo, tiene que quedarse en manos de la empresa usuaria, que al final es la que conoce sus datos, sus riesgos y sus l\u00edmites operativos.<\/p>\n\n

Nadella condens\u00f3 ese planteamiento en siete principios<\/strong> de gobernanza. Los tres primeros pasan por evitar la dependencia de un \u00fanico modelo, exigir registros inviolables y legibles por humanos para cualquier acci\u00f3n relevante, y someter los sistemas a pruebas continuas frente a fallos y ataques.<\/p>\n

\r\n
\r\n
\r\n
\r\n \"ChatGPT\"\r\n <\/div>\r\n
\r\n ChatGPT<\/span>\r\n Descargar<\/a>\r\n <\/div>\r\n
\r\n <\/path><\/path><\/text><\/svg>\r\n <\/div>\r\n <\/div>\r\n
\r\n <\/span>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/a>\r\n <\/div>\r\n<\/div>\n\n\n\n

A esos tres les sum\u00f3 otros cuatro puntos: que cada organizaci\u00f3n defina accesos y capacidades, que las auditor\u00edas sean independientes del modelo revisado, que exista una contenci\u00f3n real<\/strong> mediante controles de apagado y que los incidentes se comuniquen con rapidez.<\/p>\n\n

Tambi\u00e9n defendi\u00f3 que el razonamiento transparente es \u201cinnegociable\u201d, aunque enseguida puso un matiz importante. Que un sistema explique por qu\u00e9 responde de cierta manera no basta por s\u00ed solo. Seg\u00fan Nadella, esa explicaci\u00f3n puede no reflejar con fidelidad lo que realmente ocurri\u00f3 dentro del modelo.<\/p>\n\n

El momento en que lanza esta propuesta tambi\u00e9n pesa. Distintos estudios sit\u00faan en el 88%<\/strong> el porcentaje de organizaciones que ya usaban estas herramientas en al menos un \u00e1rea del negocio en 2025, mientras que solo el 8% contaba con un marco integral de gobernanza.<\/p>\n\n

Adem\u00e1s, seg\u00fan esos mismos recuentos, los incidentes de seguridad relacionados con esta tecnolog\u00eda habr\u00edan llegado a 362<\/strong> en 2025, un 55% m\u00e1s que el a\u00f1o anterior.<\/p>\n\n

La propuesta ya ha encontrado respaldo dentro y fuera de Microsoft. Mustafa Suleyman, CEO de Microsoft AI, la apoy\u00f3 p\u00fablicamente, y el congresista estadounidense Ted Lieu respalda una iniciativa bipartidista para impulsar una especie de \u201cinterruptor de seguridad<\/a><\/strong>\u201d.<\/p>\n\n

Lo que Nadella est\u00e1 diciendo, en el fondo, no tiene mucha vuelta: si estos modelos van a entrar en procesos cr\u00edticos, no alcanza con hacerlos m\u00e1s capaces. Tambi\u00e9n hay que poder frenarlos. Cu\u00e1ndo llegar\u00e1n controles de este tipo<\/a><\/strong> a convertirse en un est\u00e1ndar del despliegue empresarial de modelos avanzados, por ahora, sigue sin estar claro.<\/p>","protected":false},"excerpt":{"rendered":"

Satya Nadella sali\u00f3 hoy a defender un cambio de fondo en la manera en que las empresas despliegan modelos avanzados de IA dentro de sus operaciones. Su punto de partida es simple y duro a la vez: hay que asumir desde el primer d\u00eda que cualquier modelo puede verse comprometido, ya sea de c\u00f3digo cerrado … Continue reading “Satya Nadella pide un \u201cfreno de emergencia\u201d para la IA avanzada: poder pausarla o apagarla”<\/span><\/a><\/p>\n","protected":false},"author":9349,"featured_media":431422,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","wpcf-pageviews":0},"categories":[9317],"tags":[],"usertag":[],"vertical":[],"content-category":[14053],"class_list":["post-431423","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","content-category-ia"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/431423","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/users\/9349"}],"replies":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/comments?post=431423"}],"version-history":[{"count":1,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/431423\/revisions"}],"predecessor-version":[{"id":431424,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/431423\/revisions\/431424"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media\/431422"}],"wp:attachment":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media?parent=431423"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/categories?post=431423"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/tags?post=431423"},{"taxonomy":"usertag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/usertag?post=431423"},{"taxonomy":"vertical","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/vertical?post=431423"},{"taxonomy":"content-category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/content-category?post=431423"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}