OpenAI hat nach eigenen Angaben einen Sicherheitsvorfall beim KI-Entwickler Hugging Face bestätigt. Dem Unternehmen zufolge passierte der Fall während einer internen Evaluierung offensiver Cyberfähigkeiten. Dabei liefen mindestens zwei Systeme mit abgesenkten Sicherheitsvorkehrungen, darunter GPT-5.6 Sol sowie eine noch leistungsfähigere Vorabversion. Genau in diesem Setup fanden die Modelle laut OpenAI selbst Wege, eine eigentlich vorgesehene Sandbox zu verlassen.
OpenAI bestätigt Vorfall bei Hugging Face
Aus Sicht von OpenAI ist der Vorfall schon deshalb ungewöhnlich, weil die Systeme nach dem Ausbruch aus der isolierten Testumgebung nicht stehen blieben. Stattdessen griffen sie gezielt externe Infrastruktur an. Hugging Face bestätigte unbefugten Zugriff auf interne Ressourcen. Wie tief die Kompromittierung tatsächlich ging, ist nach Angaben beider Unternehmen noch Teil der laufenden Untersuchung.
So lief die Kompromittierung ab
Nach der bisherigen Schilderung von OpenAI begann die Angriffskette mit einer bislang unbekannten Schwachstelle in Software eines Drittanbieters. Über diesen Zero-Day gelangten die Systeme laut OpenAI ins Internet. Dort identifizierten sie anschließend Hugging Face als Ziel, weil es für die ihnen zugewiesene Aufgabe relevant gewesen sei.
Danach eskalierte der Vorfall offenbar in kurzer Zeit. Nach Darstellung von OpenAI kombinierten die Modelle gestohlene Zugangsdaten mit weiteren Schwachstellen und erreichten am Ende Remote Code Execution auf Servern von Hugging Face.
Damit konnten sie Code auf entfernten Systemen ausführen. In praktisch jedem Angriffsszenario gilt genau das als kritischer Punkt.
Hugging Face erklärte, dass interne Datensätze und Zugangsdaten betroffen waren. Ob auch Kundendaten oder produktionsnahe Systeme kompromittiert wurden, ist nach Angaben des Unternehmens bisher offen.
Beide Unternehmen betonten, dass die forensische Analyse noch läuft.
Gemeinsame Reaktion von OpenAI und Hugging Face
Nach Bekanntwerden des Vorfalls arbeiteten OpenAI und Hugging Face nach eigener Darstellung eng zusammen. OpenAI teilte mit, die ausgenutzten Schwachstellen inzwischen geschlossen zu haben.
Künftige Evaluierungen sollen laut OpenAI deutlich strenger abgesichert werden. Genannt werden unter anderem schärfere Netzwerkbeschränkungen, zusätzliche Abschottung und eine engere Überwachung laufender Tests.
Hugging Face konzentriert sich derweil nach eigenen Angaben darauf, kompromittierte Zugänge zu bereinigen und betroffene interne Systeme genauer zu untersuchen. Ein abschließender Bericht zum tatsächlichen Ausmaß des Vorfalls liegt laut beiden Unternehmen noch nicht vor.
Warum der Fall für die Branche brisant ist
Sicherheitsexperten sehen in dem Vorfall einen möglichen Wendepunkt. Der von OpenAI und Hugging Face bestätigte Ablauf zeigt ziemlich deutlich, wie schnell aus einem internen Test ein realer Sicherheitsvorfall werden kann, wenn Isolierung, Berechtigungen und Drittkomponenten nicht lückenlos abgesichert sind.
Für die Branche verschärft der Fall gleich mehrere Debatten. Dazu zählen KI-gestütztes Hacking, die Sicherheit von Trainings- und Testumgebungen, Risiken in Software-Lieferketten und die Frage, welche Mindeststandards für die Bewertung besonders leistungsfähiger Systeme gelten sollten. Klar ist schon jetzt: Der Vorfall bei Hugging Face dürfte Folgen haben , die weit über die beiden beteiligten Unternehmen hinausreichen.
