Anthropic hat Claude Fable 5 nach Angaben des Unternehmens zum 1. Juli wieder freigegeben, auf Claude.ai, über die eigene API und außerdem über Amazon Web Services (AWS), Google Cloud und Microsoft Foundry. Bei Claude Mythos 5 bleibt Anthropic dagegen vorerst zurückhaltend. Das Modell bleibt stark eingeschränkt und wird zunächst nur für eine begrenzte Gruppe von Organisationen in den USA geöffnet.
Claude Fable 5 wieder verfügbar
Ab sofort lässt sich Anthropic Claude Fable 5 schrittweise wieder nutzen.
Damit endet laut Anthropic eine ziemlich ungewöhnliche Unterbrechung, die fast die ganze Welt getroffen hatte. Die US-Vorgabe richtete sich formal zwar gegen ausländische Staatsangehörige. In der Praxis schaltete Anthropic Claude Fable 5 und Claude Mythos 5 aber für 18 Tage weltweit ab.
Der Grund, so das Unternehmen: Die Nationalität von Nutzerinnen und Nutzern ließ sich in Echtzeit nicht zuverlässig genug überprüfen.
US-Vorgabe nach Sicherheitsbedenken
Auslöser der Sperre war Anthropic zufolge eine Mitte Juni erlassene Vorgabe des US-Handelsministeriums. Sie verpflichtete das Unternehmen, den Zugriff auf die leistungsstarken Modelle Claude Fable 5 und Claude Mythos 5 für ausländische Staatsangehörige zu blockieren.
Hinter dieser Maßnahme standen nach Darstellung von Anthropic Sicherheitsbedenken der US-Regierung.
Konkret ging es dem Unternehmen zufolge um eine Schwachstelle in Claude Fable 5, die Forschende bei Amazon entdeckt hatten. Über einen sogenannten Jailbreak ließ sich das Modell demnach dazu bringen, Software-Sicherheitslücken zu benennen.
Genau diese Fähigkeit löste laut Anthropic Alarm aus, weil Behörden befürchteten, dass die Cybersecurity-Funktionen missbraucht werden könnten.
Schutzmechanismus hebt die Einschränkungen auf
Anthropic sagt, die Einschränkungen seien nun aufgehoben worden, nachdem das Unternehmen einen Schutzmechanismus eingebaut hat, der den bekannten Exploit blockiert. Dazu kommt laut eigener Darstellung die Zusage, künftige Sicherheitsrisiken proaktiv anzugehen und gemeinsam mit der US-Regierung an Standards für kommende Modelle zu arbeiten.
Mit der Wiederfreigabe ist der breite Zugriff auf Claude Fable 5 wieder möglich. Einige zahlende Nutzer sollen nach Angaben von Anthropic vorübergehend ein enthaltenes Nutzungskontingent erhalten, bevor später ein Modell mit Nutzungsguthaben eingeführt wird.
Mythos 5 bleibt stark eingeschränkt
Bei Claude Mythos 5 geht Anthropic nach eigenen Angaben deutlich vorsichtiger vor. Das leistungsstärkere Modell wird demnach zunächst nur für eine begrenzte Gruppe US-amerikanischer Organisationen wieder freigeschaltet.
Dazu zählen laut Anthropic Einrichtungen aus dem Bereich kritischer Infrastruktur sowie ausgewählte Partner im Rahmen von Project Glasswing.
Die Episode dürfte auch über Anthropic hinaus Spuren hinterlassen. In Teilen der Tech-Branche hatte die kurzfristige Exportbremse dem Unternehmen zufolge Kritik ausgelöst, unter anderem weil sie als schwer umsetzbar und potenziell marktverzerrend galt.
Gleichzeitig wächst damit der Druck, gemeinsame Maßstäbe dafür festzulegen, wie Jailbreaks bewertet werden und wie schwer solche Vorfälle wiegen. Daran arbeiten Anthropic, Amazon, Microsoft und Google laut Anthropic inzwischen gemeinsam.
Zugriff auf Claude über Claude.ai. API-Zugang gibt es über Amazon Web Services (AWS), Google Cloud und Microsoft Foundry.
