Anthropic anunció hoy nuevas restricciones para usar Claude, su asistente conversacional, y hay una que sobresale enseguida: queda prohibido el “comportamiento abusivo o cruel, sostenido e innecesario” contra el sistema. Ese cambio llega dentro de una revisión más amplia que también aprieta las reglas sobre campañas engañosas, armas y vigilancia. Según la empresa, la idea es tapar huecos ante nuevos patrones de abuso detectados durante el último año.
Según la política de uso revisada de Anthropic, el texto se actualizó el 8 de octubre de 2026 y entró en vigor el 12 de noviembre de 2026, más de un año después de la última revisión de calado. La nueva versión recoge “riesgos emergentes en elecciones, armas, vigilancia, salud y servicios financieros”, dijo un representante de Anthropic.
La parte que más llama la atención veta el maltrato a Claude, aunque Anthropic aclara que no está pensando en usuarios frustrados, obras de ficción, bromas puntuales ni pruebas de seguridad del sistema.
La restricción se reserva para casos extremos de crueldad repetida y sin un propósito claro, así que la consecuencia más probable seguirá siendo la misma: que Claude corte la conversación. Esa capacidad de terminar un chat se introdujo en agosto de 2025 para Opus 4 y 4.1, según Anthropic, como parte de su investigación interna sobre el “bienestar del modelo”. La empresa no ha dicho si este tipo de infracciones también podrá acabar en sanciones más duras, como suspensiones de cuenta.
Anthropic también reunió restricciones previas bajo una prohibición más amplia contra campañas comerciales o políticas engañosas y contra la actividad coordinada no auténtica. Ahí entra ocultar quién está detrás de un mensaje, inflar contenido con cuentas o publicaciones falsas, engañar a votantes, difundir desinformación electoral, hacerse pasar por candidatos o funcionarios e intentar desanimar la participación, justo cuando la autenticidad de los mensajes políticos está sometida a una presión cada vez mayor.
En armas, Anthropic sostiene que ya prohibía el desarrollo de armamento, pero dice que había visto varios intentos de usar Claude para conseguir orientación técnica y crear software de control. La nueva redacción deja claro que el veto alcanza al arma, al software y a los componentes que la ponen en marcha, incluido el armado de drones y de otros vehículos autónomos.
También se endurecieron las restricciones sobre vigilancia. Ahora Anthropic prohíbe rastrear personas sin su consentimiento, ya sea en tiempo real o con datos recopilados antes, usar Claude para decidir a quién investigar, detener o acusar, y construir o mejorar herramientas de vigilancia. La compañía vincula este punto con un aumento de usos indebidos para identificar y seguir a disidentes políticos.
Hay, eso sí, una puerta entreabierta para ciertos contratos gubernamentales: algunas restricciones podrán ajustarse si Anthropic considera que los límites contractuales y las salvaguardas reducen lo suficiente el riesgo. La empresa ya ha trabajado con el Ejército de Estados Unidos, aunque también ha reconocido choques con el Departamento de Defensa en asuntos como la vigilancia masiva dentro del país y las armas totalmente autónomas.
La revisión se apoya en comentarios de clientes y en patrones de abuso documentados en el informe de inteligencia de amenazas de Anthropic de septiembre de 2026, donde aparecían propaganda, vigilancia y posibles usos relacionados con bioseguridad. Mientras tanto, el apartado de “bienestar del modelo” sigue dividiendo opiniones entre quienes lo ven como una forma prudente de gobernanza y quienes creen que esa idea se sostiene mal cuando se aplica a sistemas no sintientes.
Author: Jesús Pina
{
"social": {
"email": "",
"facebook": "",
"twitter": "",
"linkedin": ""
},
"ja-JP": "",
"de-DE": "Jesús Pina verfolgt, was künstliche Intelligenz an der Software wirklich verändert, die wir täglich benutzen — und trennt dabei, was schon funktioniert, von dem, was bisher nur eine Ankündigung ist. Ihn interessiert die praktische Wirkung: welches Werkzeug echte Zeit spart, welches auf halbem Weg stehen bleibt und welches man sich vor der Installation zweimal ansehen sollte. Er arbeitet täglich mit KI-Modellen mitten im redaktionellen Prozess von Softonic und kennt deren Grenzen deshalb recht genau.",
"en-US": "Jesús Pina follows what artificial intelligence is actually changing in the software people use every day, telling apart what already works from what is still only an announcement. What interests him is the practical effect: which tool saves real time, which one stops halfway and which one deserves a second look before you install it. He works daily with AI models inside Softonic's own editorial process, so he knows their limits fairly well.",
"es-ES": "Jesús Pina sigue lo que la inteligencia artificial está cambiando de verdad en el software que usamos cada día, separando lo que ya funciona de lo que por ahora solo es un anuncio. Le interesa el efecto práctico: qué herramienta ahorra tiempo real, cuál se queda a medias y cuál conviene mirar dos veces antes de instalarla. Trabaja a diario con modelos de IA dentro del propio proceso editorial de Softonic, así que conoce bastante bien sus límites.",
"fr-FR": "Jesús Pina suit ce que l'intelligence artificielle change réellement dans les logiciels du quotidien, en distinguant ce qui fonctionne déjà de ce qui n'est encore qu'une annonce. Ce qui l'intéresse, c'est l'effet pratique : quel outil fait gagner du temps, lequel s'arrête à mi-chemin et lequel mérite un second examen avant installation. Il travaille au quotidien avec des modèles d'IA au cœur du processus éditorial de Softonic, et connaît donc assez bien leurs limites.",
"it-IT": "Jesús Pina segue ciò che l'intelligenza artificiale sta davvero cambiando nel software di ogni giorno, distinguendo quello che già funziona da quello che per ora è solo un annuncio. Gli interessa l'effetto pratico: quale strumento fa risparmiare tempo, quale si ferma a metà e quale conviene guardare due volte prima di installarlo. Lavora ogni giorno con modelli di IA dentro il processo editoriale di Softonic, e per questo ne conosce bene i limiti.",
"nl-NL": "Jesús Pina volgt wat kunstmatige intelligentie echt verandert aan de software die we dagelijks gebruiken, en scheidt daarbij wat al werkt van wat nog slechts een aankondiging is. Wat hem interesseert is het praktische effect: welke tool echt tijd bespaart, welke halverwege blijft steken en welke je beter twee keer bekijkt voordat je hem installeert. Hij werkt dagelijks met AI-modellen binnen het redactieproces van Softonic en kent daardoor hun grenzen vrij goed.",
"pl-PL": "Jesús Pina śledzi to, co sztuczna inteligencja rzeczywiście zmienia w programach używanych codziennie, oddzielając rozwiązania, które już działają, od tych, które są na razie tylko zapowiedzią. Interesuje go efekt praktyczny: które narzędzie naprawdę oszczędza czas, które zatrzymuje się w połowie drogi, a które warto sprawdzić dwa razy przed instalacją. Codziennie pracuje z modelami AI wewnątrz procesu redakcyjnego Softonica, więc dobrze zna ich ograniczenia.",
"pt-BR": "Jesús Pina acompanha o que a inteligência artificial está realmente mudando nos programas que usamos todos os dias, separando o que já funciona do que ainda é apenas anúncio. O que lhe interessa é o efeito prático: qual ferramenta economiza tempo de verdade, qual para no meio do caminho e qual merece uma segunda olhada antes de instalar. Trabalha diariamente com modelos de IA dentro do próprio processo editorial da Softonic, e por isso conhece bem seus limites."
}
View all posts by Jesús Pina
