Claude está tomando medidas drásticas contra los usuarios abusivos, así que cuidado
Anthropic prohíbe el 12 de noviembre de 2026 el abuso o la crueldad «sostenidos e innecesarios» hacia sus modelos de inteligencia artificial, entre ellos Claude. Así lo recoge su política.
La compañía busca prevenir posibles perjuicios al bienestar de sus modelos, dada la incertidumbre sobre la conciencia artificial. La prohibición deja fuera las expresiones de frustración o desacuerdo, la ficción oscura y las pruebas e investigaciones legítimas.
Claude puede poner fin a una conversación cuando fracasan los intentos reiterados de reconducirla, según explica Anthropic. Esta capacidad se introdujo en agosto de 2025 y, por lo general, el usuario puede abrir otro chat o editar los mensajes anteriores.
Hay una excepción: las situaciones de riesgo inminente de autolesión o daño a terceros. La empresa aclara que Claude no corta cualquier intercambio difícil y que el cierre de una conversación tampoco supone perder la cuenta automáticamente.
La política se aplica a Claude.ai, Claude Code y la API, así como al acceso a través de proveedores de nube, distribuidores y aplicaciones de terceros.
Entre las medidas generales que contempla Anthropic figuran las advertencias y los límites de uso, además de la suspensión o cancelación de cuentas. No se sabe con qué frecuencia se recurre a ellas por maltrato al modelo.
Searchable analizó más de ocho millones de mensajes anonimizados procedentes de un panel de voluntarios de Estados Unidos. Sus participantes utilizaron ChatGPT, de OpenAI; Gemini, de Google; y Claude entre septiembre de 2025 y septiembre de 2026.
El 33 % de los usuarios de ese panel empleó alguna palabrota, insulto o expresión denigrante, según Searchable. La muestra no representa al conjunto de la población estadounidense y los resultados tampoco corresponden exclusivamente a Claude.
A menudo, los fallos precedían al abuso. En el análisis de Searchable, el 19 % de los incidentes llegó después de que se ignoraran instrucciones; otro 18 %, tras respuestas incorrectas. Las peticiones malinterpretadas precedieron al 15 % de los incidentes y las negativas a responder, solo al 8 %.
La hostilidad no estuvo asociada a mejores resultados: la respuesta siguiente resolvió el 24 % de las quejas que incluían insultos, frente al 35 % de las peticiones educadas, de acuerdo con el análisis.
Al terminar las conversaciones, esas tasas llegaban al 31 % cuando había palabrotas y al 41 % en las correcciones sin ellas. Los datos de Searchable no demuestran causalidad. El 73 % de las quejas con palabrotas tenía otra queja previa; muchas de esas conversaciones ya iban mal.
Entre las voces críticas está Mustafa Suleyman, de Microsoft, que cuestiona que se atribuyan intereses a los modelos y se fomente la creencia de que tienen derechos.
Siguen sin conocerse los métodos para detectar el abuso en el uso empresarial y a través de la API, ni cómo se interpretan las diferencias culturales y lingüísticas. Tampoco se sabe cuántos usuarios han sido sancionados o qué mecanismos formales existen para apelar.
Author: Manuel Bosque
{
"social": {
"email": "",
"facebook": "",
"twitter": "",
"linkedin": ""
},
"ja-JP": "",
"de-DE": "Manuel Bosque schreibt bei Softonic über Software: Desktop-Programme, Produktivitätswerkzeuge und kleine Tools, die ein Problem wirklich lösen. Sein Maßstab ist praktisch — was ein Programm tatsächlich leistet, was es dafür verlangt und für wen es sich lohnt —, deshalb misstraut er Funktionslisten und testet lieber selbst. Er gehört zum Team, das festlegt, wie Software auf der Seite behandelt wird, und arbeitet täglich mit KI-Werkzeugen in der redaktionellen Produktion.",
"en-US": "Manuel Bosque covers software at Softonic: desktop programs, productivity tools and the small utilities that solve one problem well. His approach is practical — what a program actually does, what it asks in return and who it is for — which is why he distrusts feature lists and prefers to test. He is part of the team that decides how software gets covered on the site, and works daily with AI tools applied to editorial production.",
"es-ES": "Manuel Bosque se ocupa de la cobertura de software en Softonic: programas de escritorio, herramientas de productividad y utilidades pequeñas que resuelven bien un solo problema. Su criterio es práctico —qué hace realmente un programa, qué pide a cambio y a quién le sirve—, y por eso desconfía de las listas de funciones y prefiere probar. Forma parte del equipo que decide cómo se cuenta el software en la web y trabaja a diario con herramientas de IA aplicadas a la producción editorial.",
"fr-FR": "Manuel Bosque couvre les logiciels chez Softonic : programmes de bureau, outils de productivité et petits utilitaires qui résolvent bien un seul problème. Son approche est pratique — ce qu'un logiciel fait vraiment, ce qu'il demande en échange et à qui il s'adresse —, d'où sa méfiance envers les listes de fonctionnalités et sa préférence pour l'essai. Il fait partie de l'équipe qui définit la manière de traiter le logiciel sur le site et travaille au quotidien avec des outils d'IA appliqués à la production éditoriale.",
"it-IT": "Manuel Bosque si occupa di software su Softonic: programmi per il desktop, strumenti di produttività e piccole utility che risolvono bene un solo problema. Il suo criterio è pratico — cosa fa davvero un programma, cosa chiede in cambio e a chi serve — e per questo diffida degli elenchi di funzioni e preferisce provare. Fa parte del team che decide come si racconta il software sul sito e lavora ogni giorno con strumenti di IA applicati alla produzione editoriale.",
"nl-NL": "Manuel Bosque schrijft bij Softonic over software: desktopprogramma's, productiviteitstools en kleine hulpprogramma's die één probleem echt oplossen. Zijn maatstaf is praktisch — wat een programma werkelijk doet, wat het daarvoor vraagt en voor wie het nuttig is — en daarom wantrouwt hij functielijstjes en test hij liever zelf. Hij maakt deel uit van het team dat bepaalt hoe software op de site wordt behandeld en werkt dagelijks met AI-tools in de redactionele productie.",
"pl-PL": "Manuel Bosque zajmuje się oprogramowaniem w Softonicu: programami na komputer, narzędziami do pracy i niewielkimi aplikacjami, które dobrze rozwiązują jeden problem. Jego kryterium jest praktyczne — co program naprawdę robi, czego wymaga w zamian i komu się przyda — dlatego nie ufa listom funkcji i woli sprawdzić sam. Należy do zespołu, który decyduje, jak pisać o oprogramowaniu w serwisie, i codziennie korzysta z narzędzi AI w produkcji redakcyjnej.",
"pt-BR": "Manuel Bosque cobre software na Softonic: programas para desktop, ferramentas de produtividade e pequenos utilitários que resolvem bem um problema só. Seu critério é prático — o que um programa realmente faz, o que pede em troca e para quem serve — e por isso desconfia de listas de recursos e prefere testar. Faz parte da equipe que define como o software é abordado no site e trabalha diariamente com ferramentas de IA aplicadas à produção editorial."
}
View all posts by Manuel Bosque