Anthropic ha expuesto accidentalmente documentos internos altamente sensibles que revelan la existencia de un modelo de inteligencia artificial no publicado denominado “Claude Mythos”.
Este incidente se ha originado a partir de un almacén de datos público y no seguro, lo que ha generado alarmas en la comunidad de ciberseguridad.
El modelo más capaz hasta la fecha… y el más peligroso
Los documentos filtrados incluyen una evaluación inicial que indica que el modelo presenta riesgos de ciberseguridad sin precedentes, lo que es una declaración significativa para una empresa que se promociona como un desarrollador de IA centrado en la seguridad.
Un portavoz de Anthropic confirmó la existencia del modelo, describiéndolo como “el más capaz que hemos construido hasta la fecha” y mencionando que actualmente está siendo probado por clientes de acceso anticipado.
La naturaleza de la filtración, que incluye comunicaciones internas y evaluaciones de riesgos, sugiere debilidades en las prácticas de gobernanza de datos dentro de Anthropic.
La falta de controles de acceso adecuados en el almacenamiento de documentos sensibles plantea serias preocupaciones sobre la seguridad operativa de la empresa. Este tipo de mala configuración es común en las infraestructuras en la nube, tal como se observa en contenedores de almacenamiento de AWS S3 o Azure Blob.
La exposición de esta información crítica podría tener implicaciones más amplias, incluidas preocupaciones sobre la seguridad nacional y un aumento en las demandas de auditorías de seguridad obligatorias para las empresas de IA. En un momento en que la presión regulatoria sobre los desarrolladores de inteligencia artificial está aumentando, este incidente subraya la necesidad urgente de prácticas responsables no solo en el comportamiento de los modelos, sino también en la gestión de los datos operacionales sensibles que los rodean.
Anthropic no ha revelado si los datos expuestos fueron accedidos por partes no autorizadas, ni ha confirmado qué pasos de remediación se han tomado tras el incidente.