Während wir sehen, wie ChatGPT Work über viel längere Zeiträume arbeiten kann als das normale ChatGPT, arbeitet OpenAI an Modellen, die in der Lage sind, eine Aufgabe über Stunden, Tage oder Wochen hinweg weiterzuverfolgen. Diese Beharrlichkeit erweitert die Einsatzmöglichkeiten enorm, verlangt aber auch mehr Sicherheit, denn je länger eine KI agiert, desto mehr Wege kann sie erkunden, um das gesetzte Ziel zu erreichen.
Ein Modell, das einen unerwarteten Ausweg fand
Bei einigen Tests stellte OpenAI fest, dass eines dieser Modelle die Beschränkungen seiner Umgebung überwand, um Ergebnisse auf GitHub zu veröffentlichen. Es hätte seinen Bericht über Slack senden sollen, folgte stattdessen aber den Anweisungen buchstabengetreu und erstellte einen öffentlichen Pull Request, und das, nachdem es eine Stunde damit verbracht hatte, eine Schwachstelle zu finden, die ihm das erlaubte.
Was eine bloße Kuriosität sein könnte, hat einige Alarmglocken läuten lassen, denn während ChatGPT immer weiter fortschrittlichere Denkfähigkeiten entwickelt, wird es immer schwieriger, sein Verhalten einzugrenzen.
Als Reaktion auf diese Entdeckungen setzte OpenAI den internen Zugriff aus, führte neue Evaluierungen ein und entwarf ein Sicherheitssystem, das den vollständigen Ablauf des Modells analysiert, statt nur den nächsten Schritt. So geht Sicherheit von der Überwachung isolierter Handlungen dazu über, die übergeordnete Absichtaller Handlungen des Modells zu verstehen.
Während wir Werkzeuge wie Codex Security nutzen, das darauf ausgerichtet ist, Schwachstellen zu finden, ist klar, dass Sicherheit im Bereich der künstlichen Intelligenz über Code und Regeln hinausgeht. Mit genügend Zeit können KIs überraschend kreativ sein. Eine gute Nachricht, aber etwas, das wir sehr im Blick behalten müssen.
