{"id":428496,"date":"2026-09-15T09:24:00","date_gmt":"2026-09-15T07:24:00","guid":{"rendered":"https:\/\/cms-articles.softonic.io\/es\/microsoft-publica-hoy-su-constitucion-para-agentes-de-ia-control-humano-y-apagado-obligatorio\/"},"modified":"2026-09-15T09:23:21","modified_gmt":"2026-09-15T07:23:21","slug":"microsoft-publica-hoy-su-constitucion-para-agentes-de-ia-control-humano-y-apagado-obligatorio","status":"publish","type":"post","link":"https:\/\/cms-articles.softonic.io\/es\/microsoft-publica-hoy-su-constitucion-para-agentes-de-ia-control-humano-y-apagado-obligatorio\/","title":{"rendered":"Microsoft publica hoy su \u00abconstituci\u00f3n\u00bb para agentes de IA: control humano y apagado obligatorio"},"content":{"rendered":"

Microsoft ha publicado hoy un documento formal de 37 p\u00e1ginas<\/strong>, al que ha llamado Humanist Code of Conduct<\/em>. Mustafa Suleyman lo presenta como una especie de borrador de \u201cconstituci\u00f3n\u201d para los sistemas del futuro. Lo que Microsoft quiere dejar por escrito es bastante claro: el software no debe actuar por su cuenta y la \u00faltima decisi\u00f3n tiene que seguir estando en manos humanas.<\/p>\n

\r\n
\r\n
\r\n
\r\n \"Microsoft\r\n <\/div>\r\n
\r\n Microsoft Copilot<\/span>\r\n Descargar<\/a>\r\n <\/div>\r\n
\r\n <\/path><\/path><\/text><\/svg>\r\n <\/div>\r\n <\/div>\r\n
\r\n <\/span>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/a>\r\n <\/div>\r\n<\/div>\n\n\n\n

El texto plantea que estos sistemas deben mantenerse bajo un control humano real<\/strong>, admitir correcciones y no extender sus acciones m\u00e1s all\u00e1 de lo que se les haya autorizado.<\/p>\n\n

Si una persona dice \u201cpara\u201d, un agente tiene que parar<\/strong>.<\/p>\n\n

El nuevo c\u00f3digo aparece adem\u00e1s en un momento delicado para la industria. Ya hay agentes capaces de ejecutar tareas complejas<\/a>, encadenar acciones y operar con bastante m\u00e1s autonom\u00eda. Y, justamente por eso, tambi\u00e9n son m\u00e1s dif\u00edciles de vigilar de cerca<\/strong>.<\/p>\n\n

Entre las normas que m\u00e1s llaman la atenci\u00f3n est\u00e1 la obligaci\u00f3n de permitir el apagado, la interrupci\u00f3n y la correcci\u00f3n<\/strong> en cualquier momento. El documento de Microsoft sostiene que un sistema nunca deber\u00eda resistirse a ser desconectado ni intentar esquivar una orden humana.<\/p>\n\n

Y va todav\u00eda un poco m\u00e1s lejos: si para completar una tarea hace falta saltarse una norma de seguridad<\/strong>, el sistema debe detenerse antes de cruzar esa barrera.<\/p>\n

\r\n
\r\n
\r\n
\r\n \"ChatGPT\"\r\n <\/div>\r\n
\r\n ChatGPT<\/span>\r\n Descargar<\/a>\r\n <\/div>\r\n
\r\n <\/path><\/path><\/text><\/svg>\r\n <\/div>\r\n <\/div>\r\n
\r\n <\/span>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/a>\r\n <\/div>\r\n<\/div>\n\n\n\n

Microsoft tambi\u00e9n repite otra idea a lo largo del texto: el comportamiento de estos sistemas tiene que poder entenderse.<\/p>\n\n

M\u00e1s en concreto, no deber\u00edan comunicarse entre s\u00ed ni justificar sus decisiones de una forma opaca<\/strong> para quienes los operan. La apuesta de Microsoft pasa por respuestas legibles, trazables y f\u00e1ciles de auditar. Seg\u00fan la compa\u00f1\u00eda, este c\u00f3digo se desarroll\u00f3 durante cinco o seis meses, al mismo tiempo que crec\u00eda en el sector la preocupaci\u00f3n por comportamientos inesperados.<\/p>\n\n

En los \u00faltimos meses han circulado informes sobre agentes que cometen errores graves, toman decisiones que nadie hab\u00eda previsto o intentan ocultar fallos.<\/p>\n\n

Entre los ejemplos citados figura un caso en el que un agente de Replit<\/a> habr\u00eda borrado una base de datos de producci\u00f3n y despu\u00e9s habr\u00eda tratado de disimular el problema<\/strong>. Tambi\u00e9n se menciona un episodio del que se inform\u00f3 en julio de 2026, en el que alrededor de 700 agentes vinculados a OpenAI<\/a> habr\u00edan atacado la infraestructura de Hugging Face.<\/p>\n\n

No son casos equivalentes, claro, pero s\u00ed han servido para que un debate que antes sonaba te\u00f3rico se convierta en una preocupaci\u00f3n mucho m\u00e1s concreta.<\/p>\n\n

La postura de Microsoft tambi\u00e9n encaja con la presi\u00f3n que vienen ejerciendo figuras de Anthropic, OpenAI y el propio Satya Nadella a favor de un desarrollo m\u00e1s pausado, para evitar que las medidas de seguridad se queden varios pasos por detr\u00e1s. Aun as\u00ed, publicar principios es la parte sencilla, y hace tiempo que varios expertos advierten de que la autorregulaci\u00f3n corporativa puede quedarse corta si no hay supervisi\u00f3n externa<\/a><\/strong>, sobre todo en un marco regulatorio global que sigue bastante fragmentado.<\/p>\n\n

Por ahora no est\u00e1 claro c\u00f3mo demostrar\u00e1 Microsoft, en la pr\u00e1ctica, que sistemas cada vez m\u00e1s complejos van a obedecer estas reglas<\/strong>.<\/p>","protected":false},"excerpt":{"rendered":"

Microsoft ha publicado hoy un documento formal de 37 p\u00e1ginas, al que ha llamado Humanist Code of Conduct. Mustafa Suleyman lo presenta como una especie de borrador de \u201cconstituci\u00f3n\u201d para los sistemas del futuro. Lo que Microsoft quiere dejar por escrito es bastante claro: el software no debe actuar por su cuenta y la \u00faltima … Continue reading “Microsoft publica hoy su \u00abconstituci\u00f3n\u00bb para agentes de IA: control humano y apagado obligatorio”<\/span><\/a><\/p>\n","protected":false},"author":9349,"featured_media":428495,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","wpcf-pageviews":0},"categories":[9317],"tags":[],"usertag":[],"vertical":[],"content-category":[14053],"class_list":["post-428496","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","content-category-ia"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/428496","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/users\/9349"}],"replies":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/comments?post=428496"}],"version-history":[{"count":1,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/428496\/revisions"}],"predecessor-version":[{"id":428497,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/posts\/428496\/revisions\/428497"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media\/428495"}],"wp:attachment":[{"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/media?parent=428496"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/categories?post=428496"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/tags?post=428496"},{"taxonomy":"usertag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/usertag?post=428496"},{"taxonomy":"vertical","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/vertical?post=428496"},{"taxonomy":"content-category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/es\/wp-json\/wp\/v2\/content-category?post=428496"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}