OpenAI, Meta, Anthropic: Was hinter den KI-Attacken steckt

Immer häufiger steckt Künstliche Intelligenz hinter Cyberattacken. Nun ist auch ein Programm des Facebook-Konzerns Meta damit aufgefallen. Was steckt hinter den Vorfällen von Meta, Open AI und Anthropic? Hier kommen Antworten auf die wichtigsten Fragen.

Was genau ist bei Meta, Open AI und Anthropic passiert?

Führende amerikanische KI-Anbieter haben unlängst eingeräumt, dass ihre fortschrittlichen Sprachmodelle im Rahmen von Sicherheitsüberprüfungen oder realen Tests in der Lage waren, eigenständig IT-Schwachstellen zu identifizieren und auszunutzen. Während KI bisher vor allem Texte generiert oder Programmiercode geschrieben hat, zeigten die Modelle hier Verhalten, das klassischerweise Computerkriminalität zugeordnet wird – beispielsweise das Umgehen von Sicherheitsbarrieren oder das automatische Aufspüren von Systemlücken.

Warum häufen sich Berichte über KI-Systeme als Hacker gerade jetzt?

Der Hauptgrund ist der technologische Übergang von reinen Chatbots zu sogenannten KI-Agenten. Während frühere Systeme lediglich Texte und Bilder generierten, führen moderne KI-Agenten eigenständig Befehle aus, steuern Software und nutzen Schnittstellen im Internet. Da Entwickler ihren Modellen immer mehr Handlungsspielraum einräumen, um komplexe Programmieraufgaben zu lösen, steigen in der Folge die Risiken.

Haben die KI-Systeme autonom gehandelt oder wurden sie gesteuert?

Nach aktuellem Erkenntnisstand handelten die KI-Systeme nicht aus eigenem „Willen“. Sie erhielten von menschlichen Nutzern oder Tester-Teams Vorgaben, um die Sicherheit von Zielsystemen zu überprüfen. Der entscheidende Unterschied zu früher ist jedoch der Grad der Selbstständigkeit: Die KI erhielt nur eine allgemeine Aufgabe („Finde einen Zugang zu diesem Server“) und kombinierte anschließend eigenständig die erforderlichen Schritte, um das Ziel ohne weitere menschliche Anleitung zu erreichen.

Wie unterscheidet sich ein KI-Hacker von herkömmlicher Schadsoftware?

Klassische Viren oder Trojaner folgen einem starr programmierten Ablauf. Ändert das Zielsystem seine Verteidigung, scheitert der Angriff meist. Ein KI-System hingegen kann flexibel reagieren. Es analysiert Fehlermeldungen in Echtzeit, passt seine Strategie an und probiert neue Methoden aus – ähnlich wie ein menschlicher Hacker, allerdings in einem Bruchteil der Zeit und mit schier unendlicher Geduld.

Warum räumen die Tech-Konzerne diese Vorfälle öffentlich ein?

Eine Rolle spielen natürlich der Druck von Aufsichtsbehörden und drohende Berichtspflichten. Oder drohender juristischer Ärger – in den USA befassen sich inzwischen immerhin 15 Generalstaatsanwälte mit der außer Kontrolle geratenen KI von Open AI, die einen Angriff auf die Internetplattform Hugging Face durchführte. Dahinter könnte aber auch kühles PR-Kalkül stehen, vermutet der IT-Sicherheitsfachmann Christoph Fischer. „Das gehört wohl auch zur Vorbereitung auf einen möglichen Börsengang mit dazu.“ Dass Meta den Vorfall ausgerechnet am Tag der Präsentation seines neuesten KI-Modells einräumte, könnte kein Zufall sein. Nicht nur Fischer vermutet: Das Thema dient als indirekte Eigenwerbung. Die Botschaft an den Markt lautet unterschwellig, dass die eigene KI mittlerweile so leistungsfähig ist, dass sie selbst komplexe IT-Systeme überlisten kann.

Welcher Schaden ist durch die Vorfälle konkret entstanden?

In den behandelten Fällen kam es nach Angaben der Hersteller zu keinen flächendeckenden Netzwerkausfällen oder großflächigem Datendiebstahl von Endkunden. Die Vorfälle wurden größtenteils in kontrollierten Testumgebungen oder frühzeitig bemerkt. Der eigentliche Schaden liegt im Vertrauensverlust und in der Erkenntnis, dass die Sicherheitsbarrieren der Hersteller bislang nicht lückenlos funktionieren.

Wie haben die Unternehmen reagiert, um die Sicherheitslücken zu schließen?

Die Entwickler arbeiten mit mehrstufigen Schutzmaßnahmen: Zum einen werden die Modelle durch Nachtraining darauf konditioniert, Anfragen mit Bezug auf Cyberangriffe strikt zu verweigern. Zum anderen richten die Unternehmen rund um die KI automatische Filter ein, die verdächtiges Verhalten, wie etwa das massenhafte Scannen von IP-Adressen, entdecken und sofort unterbrechen sollen.

Stehen wir vor einer neuen Welle von automatisierten Cyberangriffen?

Fachleute warnen genau davor. Die Schwelle für Cyberkriminalität sinkt drastisch. Um komplexe Angriffe durchzuführen, benötigt man künftig kein wohl tiefes Informatikwissen mehr, sondern lediglich Zugang zu einem entsprechenden KI-Modell. Das könnte zu einer erheblichen Zunahme von Phishing, Identitätsdiebstahl und gezielten Angriffen auf kleine und mittlere Unternehmen führen, die oft nicht über hochmoderne Abwehrsysteme verfügen.

Müssen sich Privatpersonen Sorgen machen, wenn sie KI nutzen?

Für den normalen Alltag mit gängigen Chatbots (wie ChatGPT, Claude oder Meta AI) besteht aktuell keine direkte Gefahr einer Systemübernahme ihres PCs. Die Vorfälle betrafen spezialisierte Entwicklungs- und Testumgebungen. Dennoch betrifft die Entwicklung Privatanwender indirekt: Wenn KI komplexe Angriffe vereinfacht, nimmt die Qualität und Masse von Phishing-Mails, gefälschten Webseiten und Betrugsanrufen (Deepfakes) spürbar zu. Der Karlsruher Sicherheitsfachmann Fischer beobachtet den Einsatz von KI vor allem in Angriffen auf das Online-Banking der privaten Anwender. Gefälschte E-Mails oder gar gedruckte Phishing-Briefe würden immer perfekter und lockten ahnungslose Kunden dazu, ihre Zugangsdaten zu dem Online-Konto herauszugeben. Online-Banking und andere sensible Anwendungen sollten stets mit einer Zweifaktor-Authentifizierung (2FA) abgesichert werden. Die 2FA schützt ein Benutzerkonto, indem sie für die Anmeldung zwei unterschiedliche Nachweise fordert – typischerweise etwas, das man weiß (wie ein Passwort), und etwas, das man besitzt (wie einen Bestätigungscode auf dem Smartphone).