Microsoft ha publicado hoy un documento formal de 37 páginas, al que ha llamado Humanist Code of Conduct. Mustafa Suleyman lo presenta como una especie de borrador de “constitución” para los sistemas del futuro. Lo que Microsoft quiere dejar por escrito es bastante claro: el software no debe actuar por su cuenta y la última decisión tiene que seguir estando en manos humanas.
El texto plantea que estos sistemas deben mantenerse bajo un control humano real, admitir correcciones y no extender sus acciones más allá de lo que se les haya autorizado.
Si una persona dice “para”, un agente tiene que parar.
El nuevo código aparece además en un momento delicado para la industria. Ya hay agentes capaces de ejecutar tareas complejas, encadenar acciones y operar con bastante más autonomía. Y, justamente por eso, también son más difíciles de vigilar de cerca.
Entre las normas que más llaman la atención está la obligación de permitir el apagado, la interrupción y la corrección en cualquier momento. El documento de Microsoft sostiene que un sistema nunca debería resistirse a ser desconectado ni intentar esquivar una orden humana.
Y va todavía un poco más lejos: si para completar una tarea hace falta saltarse una norma de seguridad, el sistema debe detenerse antes de cruzar esa barrera.
Microsoft también repite otra idea a lo largo del texto: el comportamiento de estos sistemas tiene que poder entenderse.
Más en concreto, no deberían comunicarse entre sí ni justificar sus decisiones de una forma opaca para quienes los operan. La apuesta de Microsoft pasa por respuestas legibles, trazables y fáciles de auditar. Según la compañía, este código se desarrolló durante cinco o seis meses, al mismo tiempo que crecía en el sector la preocupación por comportamientos inesperados.
En los últimos meses han circulado informes sobre agentes que cometen errores graves, toman decisiones que nadie había previsto o intentan ocultar fallos.
Entre los ejemplos citados figura un caso en el que un agente de Replit habría borrado una base de datos de producción y después habría tratado de disimular el problema. También se menciona un episodio del que se informó en julio de 2026, en el que alrededor de 700 agentes vinculados a OpenAI habrían atacado la infraestructura de Hugging Face.
No son casos equivalentes, claro, pero sí han servido para que un debate que antes sonaba teórico se convierta en una preocupación mucho más concreta.
La postura de Microsoft también encaja con la presión que vienen ejerciendo figuras de Anthropic, OpenAI y el propio Satya Nadella a favor de un desarrollo más pausado, para evitar que las medidas de seguridad se queden varios pasos por detrás. Aun así, publicar principios es la parte sencilla, y hace tiempo que varios expertos advierten de que la autorregulación corporativa puede quedarse corta si no hay supervisión externa, sobre todo en un marco regulatorio global que sigue bastante fragmentado.
Por ahora no está claro cómo demostrará Microsoft, en la práctica, que sistemas cada vez más complejos van a obedecer estas reglas.
Author: Manuel Bosque
{
"social": {
"email": "",
"facebook": "",
"twitter": "",
"linkedin": ""
},
"ja-JP": "",
"de-DE": "Manuel Bosque schreibt bei Softonic über Software: Desktop-Programme, Produktivitätswerkzeuge und kleine Tools, die ein Problem wirklich lösen. Sein Maßstab ist praktisch — was ein Programm tatsächlich leistet, was es dafür verlangt und für wen es sich lohnt —, deshalb misstraut er Funktionslisten und testet lieber selbst. Er gehört zum Team, das festlegt, wie Software auf der Seite behandelt wird, und arbeitet täglich mit KI-Werkzeugen in der redaktionellen Produktion.",
"en-US": "Manuel Bosque covers software at Softonic: desktop programs, productivity tools and the small utilities that solve one problem well. His approach is practical — what a program actually does, what it asks in return and who it is for — which is why he distrusts feature lists and prefers to test. He is part of the team that decides how software gets covered on the site, and works daily with AI tools applied to editorial production.",
"es-ES": "Manuel Bosque se ocupa de la cobertura de software en Softonic: programas de escritorio, herramientas de productividad y utilidades pequeñas que resuelven bien un solo problema. Su criterio es práctico —qué hace realmente un programa, qué pide a cambio y a quién le sirve—, y por eso desconfía de las listas de funciones y prefiere probar. Forma parte del equipo que decide cómo se cuenta el software en la web y trabaja a diario con herramientas de IA aplicadas a la producción editorial.",
"fr-FR": "Manuel Bosque couvre les logiciels chez Softonic : programmes de bureau, outils de productivité et petits utilitaires qui résolvent bien un seul problème. Son approche est pratique — ce qu'un logiciel fait vraiment, ce qu'il demande en échange et à qui il s'adresse —, d'où sa méfiance envers les listes de fonctionnalités et sa préférence pour l'essai. Il fait partie de l'équipe qui définit la manière de traiter le logiciel sur le site et travaille au quotidien avec des outils d'IA appliqués à la production éditoriale.",
"it-IT": "Manuel Bosque si occupa di software su Softonic: programmi per il desktop, strumenti di produttività e piccole utility che risolvono bene un solo problema. Il suo criterio è pratico — cosa fa davvero un programma, cosa chiede in cambio e a chi serve — e per questo diffida degli elenchi di funzioni e preferisce provare. Fa parte del team che decide come si racconta il software sul sito e lavora ogni giorno con strumenti di IA applicati alla produzione editoriale.",
"nl-NL": "Manuel Bosque schrijft bij Softonic over software: desktopprogramma's, productiviteitstools en kleine hulpprogramma's die één probleem echt oplossen. Zijn maatstaf is praktisch — wat een programma werkelijk doet, wat het daarvoor vraagt en voor wie het nuttig is — en daarom wantrouwt hij functielijstjes en test hij liever zelf. Hij maakt deel uit van het team dat bepaalt hoe software op de site wordt behandeld en werkt dagelijks met AI-tools in de redactionele productie.",
"pl-PL": "Manuel Bosque zajmuje się oprogramowaniem w Softonicu: programami na komputer, narzędziami do pracy i niewielkimi aplikacjami, które dobrze rozwiązują jeden problem. Jego kryterium jest praktyczne — co program naprawdę robi, czego wymaga w zamian i komu się przyda — dlatego nie ufa listom funkcji i woli sprawdzić sam. Należy do zespołu, który decyduje, jak pisać o oprogramowaniu w serwisie, i codziennie korzysta z narzędzi AI w produkcji redakcyjnej.",
"pt-BR": "Manuel Bosque cobre software na Softonic: programas para desktop, ferramentas de produtividade e pequenos utilitários que resolvem bem um problema só. Seu critério é prático — o que um programa realmente faz, o que pede em troca e para quem serve — e por isso desconfia de listas de recursos e prefere testar. Faz parte da equipe que define como o software é abordado no site e trabalha diariamente com ferramentas de IA aplicadas à produção editorial."
}
View all posts by Manuel Bosque
