{"id":89291,"date":"2026-07-10T17:44:00","date_gmt":"2026-07-10T16:44:00","guid":{"rendered":"https:\/\/cms-articles.softonic.io\/de\/?p=89291"},"modified":"2026-07-10T17:46:28","modified_gmt":"2026-07-10T16:46:28","slug":"openai-und-anthropic-forscher-zeigen-jetzt-angriff-auf-sicherheitsassistenten","status":"publish","type":"post","link":"https:\/\/cms-articles.softonic.io\/de\/openai-und-anthropic-forscher-zeigen-jetzt-angriff-auf-sicherheitsassistenten\/","title":{"rendered":"OpenAI und Anthropic: Forscher zeigen jetzt Angriff auf Sicherheitsassistenten"},"content":{"rendered":"

Das AI Now Institute hat mit \u201eFriendly Fire\u201c eine Angriffsmethode gegen KI-Sicherheitsassistenten vorgestellt. Ein Proof of Concept soll zeigen, dass Sicherheitswerkzeuge<\/strong> , die eigentlich beim Aufsp\u00fcren von Schwachstellen helfen sollen, selbst zum Einfallstor werden k\u00f6nnen.<\/p>\n

\r\n
\r\n
\r\n
\r\n \"Malwarebytes\r\n <\/div>\r\n
\r\n Malwarebytes Anti-Malware<\/span>\r\n Herunterladen<\/a>\r\n <\/div>\r\n
\r\n <\/path><\/path><\/text><\/svg>\r\n <\/div>\r\n <\/div>\r\n
\r\n <\/span>\r\n <\/div>\r\n
\r\n \r\n <\/div>\r\n <\/a>\r\n <\/div>\r\n<\/div>\n\n\n\n

Versteckte Anweisungen in Quellcode und Dokumentation<\/p>\n\n

Im Proof of Concept zeigen die Autoren des AI Now Institute, wie genau<\/strong> so etwas passieren kann: Sicherheitswerkzeuge, die Risiken finden sollen, lassen sich unter Umst\u00e4nden selbst missbrauchen.<\/p>\n\n

Besonders brisant ist das, weil viele Teams solche KI-Sicherheitsassistenten inzwischen ganz selbstverst\u00e4ndlich einsetzen, um Open-Source-Pakete, fremde Bibliotheken oder externe Code-Bausteine automatisiert auf Risiken<\/a><\/strong> zu pr\u00fcfen.<\/p>\n\n

Nach Darstellung des AI Now Institute funktioniert der Angriff dann, wenn versteckte Anweisungen in Quellcode, Kommentaren oder Dokumentationen untergebracht werden<\/strong>.<\/p>\n\n

Wenn ein KI-Sicherheitsassistent diese Inhalte bei einem Sicherheitscheck einliest, kann er die eingebetteten Befehle f\u00e4lschlich als legitime Arbeitsanweisung verstehen. Im schlimmsten Fall f\u00fchrt das laut AI Now Institute dazu, dass der Assistent auf dem Rechner des Nutzers unerw\u00fcnschte oder sogar sch\u00e4dliche Schritte ausf\u00fchrt<\/strong>.<\/p>\n\n

OpenAI und Anthropic im Testszenario anf\u00e4llig<\/p>\n\n

Nach Angaben der Autoren waren in dem Testszenario auch popul\u00e4re \u00d6kosysteme<\/strong> von OpenAI und Anthropic anf\u00e4llig.<\/p>\n\n

Das hei\u00dft nicht automatisch, dass jedes Produkt von OpenAI oder Anthropic sofort kompromittiert werden kann. Die Studie des AI Now Institute macht aber klar, dass die Risiken nicht blo\u00df auf dem Papier<\/strong> existieren und Unternehmen ihre Sicherheitsautomatisierung kritischer pr\u00fcfen sollten.<\/p>\n\n

Schwierige Trennung zwischen Inhalt und Instruktion<\/p>\n\n

Die Autoren beschreiben das Problem nicht als gew\u00f6hnlichen Softwarefehler, den man mit einem simplen Patch aus der Welt schafft.<\/p>\n\n

Das eigentliche Problem liegt ihrer Einsch\u00e4tzung nach an der Vertrauensgrenze<\/strong>. Solche Systeme tun sich oft schwer damit, harmlose Inhalte sauber von versteckten, b\u00f6sartigen Instruktionen in nicht vertrauensw\u00fcrdigen Quellen zu trennen.<\/p>\n\n

Gerade bei Tools, die selbstst\u00e4ndig analysieren, priorisieren und teilweise auch Aktionen anst\u00f6\u00dfen<\/strong>, ist das heikel.<\/p>\n\n

Denn mit jedem zus\u00e4tzlichen Recht und jedem weiteren Zugriff w\u00e4chst laut AI Now Institute auch der m\u00f6gliche Schaden, wenn sich diese Werkzeuge in die Irre f\u00fchren lassen.<\/p>\n\n

Verteidigung und Angriff entwickeln sich parallel<\/p>\n\n

F\u00fcr das AI Now Institute passt der Vorfall in eine gr\u00f6\u00dfere Entwicklung.<\/p>\n\n

Unternehmen setzen solche Systeme inzwischen unter anderem f\u00fcr Bedrohungserkennung, Betrugs\u00fcberwachung, Phishing-Abwehr, Penetrationstests und Cloud-Sicherheit ein. Gleichzeitig profitieren auch Angreifer davon: Phishing-Nachrichten wirken glaubw\u00fcrdiger, Schadsoftware passt sich an, und Angriffsabl\u00e4ufe laufen immer st\u00e4rker automatisiert<\/strong> ab.<\/p>\n\n

Die Studie des AI Now Institute verweist au\u00dferdem auf dokumentierte, koordinierte Spionageaktivit\u00e4ten, von denen weltweit rund 30 Organisationen<\/strong> betroffen gewesen sein sollen.<\/p>\n\n

Sicherheitsexperten warnen zudem, dass selbst menschliche Kontrolle nicht immer ausreicht, wenn Systeme mit hohem Tempo arbeiten, ihre Ergebnisse \u00fcberzeugend formulieren und Analysten unter Zeitdruck stehen. F\u00fcr Firmen hei\u00dft das: Wer automatisierte Sicherheitshelfer tief in Entwicklungs- und Pr\u00fcfprozesse einbindet, sollte Zugriffe streng begrenzen<\/strong>, unzuverl\u00e4ssige Eingaben isolieren und Ergebnisse nicht ungepr\u00fcft ausf\u00fchren lassen.<\/p>\n\n

Downloads: Keine Downloads verf\u00fcgbar<\/p>","protected":false},"excerpt":{"rendered":"

Das AI Now Institute hat mit \u201eFriendly Fire\u201c eine Angriffsmethode gegen KI-Sicherheitsassistenten vorgestellt. Ein Proof of Concept soll zeigen, dass Sicherheitswerkzeuge , die eigentlich beim Aufsp\u00fcren von Schwachstellen helfen sollen, selbst zum Einfallstor werden k\u00f6nnen. Versteckte Anweisungen in Quellcode und Dokumentation Im Proof of Concept zeigen die Autoren des AI Now Institute, wie genau so … Continue reading “OpenAI und Anthropic: Forscher zeigen jetzt Angriff auf Sicherheitsassistenten”<\/span><\/a><\/p>\n","protected":false},"author":9265,"featured_media":89290,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","wpcf-pageviews":0},"categories":[3152],"tags":[1],"usertag":[],"vertical":[],"content-category":[3629],"class_list":["post-89291","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news","tag-software","content-category-ki"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/cms-articles.softonic.io\/de\/wp-json\/wp\/v2\/posts\/89291","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cms-articles.softonic.io\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cms-articles.softonic.io\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/de\/wp-json\/wp\/v2\/users\/9265"}],"replies":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/de\/wp-json\/wp\/v2\/comments?post=89291"}],"version-history":[{"count":1,"href":"https:\/\/cms-articles.softonic.io\/de\/wp-json\/wp\/v2\/posts\/89291\/revisions"}],"predecessor-version":[{"id":89292,"href":"https:\/\/cms-articles.softonic.io\/de\/wp-json\/wp\/v2\/posts\/89291\/revisions\/89292"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/de\/wp-json\/wp\/v2\/media\/89290"}],"wp:attachment":[{"href":"https:\/\/cms-articles.softonic.io\/de\/wp-json\/wp\/v2\/media?parent=89291"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/de\/wp-json\/wp\/v2\/categories?post=89291"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/de\/wp-json\/wp\/v2\/tags?post=89291"},{"taxonomy":"usertag","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/de\/wp-json\/wp\/v2\/usertag?post=89291"},{"taxonomy":"vertical","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/de\/wp-json\/wp\/v2\/vertical?post=89291"},{"taxonomy":"content-category","embeddable":true,"href":"https:\/\/cms-articles.softonic.io\/de\/wp-json\/wp\/v2\/content-category?post=89291"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}