OpenAI-Vorfall: Bundesregierung sieht wachsende Gefahren nach autonomem KI-Angriff

Bei Tests geraten autonome OpenAI-Modelle außer Kontrolle und hacken sich in Systeme einer anderen KI-Firma ein. Der Bund spricht von einem einschneidenden Vorfall.

Quelle: DIE ZEIT, Reuters,

bda

Aktualisiert am 22. Juli 2026, 18:19 Uhr

Ihr Browser unterstützt die Wiedergabe von Audio Dateien nicht. Download der Datei als mp3: https://zon-speechbert-production.s3.eu-central-1.amazonaws.com/articles/0c45e1e2-943a-43e2-93cc-c6aa114b978d/full_3eb322a8732f095bb3e5d5ee0250b711801c62fe608124eaaa537286270898fb999eb72002c1e7538bded92ed5a1812b.mp3

109 Kommentare

Die Bundesregierung sieht im eigenmächtigen Hackerangriff von KI-Modellen von OpenAI auf Computersysteme einer anderen KI-Firma ein Anzeichen für eine stark veränderte Bedrohungslage in der Cybersicherheit. »Dieser Vorfall ist ein weiteres Beispiel dafür, dass wir einen Paradigmenwechsel sehen, was die Fähigkeiten von KI-Agenten betrifft«, sagte ein Sprecher des Digitalministeriums in ​Berlin. Man sehe seit einigen Monaten, dass ⁠die Fähigkeiten von sogenannten Frontier-AI-Modellen massiv zunähmen. Damit stiegen die Risiken. »Das verändert auch die Bedrohungslage potenziell massiv.«

Man müsse sicherstellen, dass auch europäische Unternehmen und Sicherheitsbehörden Zugang zu diesen Modellen haben, sagte der Sprecher des Digitalministeriums. Man habe in der Vergangenheit gesehen, dass dies nicht immer der Fall sei. Umso mehr setze man darauf, dass europäische Player auch auf dem Gebiet wichtiger würden.

Ausbruch einer KI braucht viele Ressourcen

Auch das Bundesamt für Sicherheit ‌in ⁠der Informationstechnik (BSI) sieht mit KI-Modellen wie Claude Mythos, OpenAI GPT-5.6 und anderen topaktuellen KI-Modellen »eine neue Zeitrechnung der Cybersicherheit« angebrochen. Dass die KI aus einer »sicheren« Umgebung (Sandbox) ausgebrochen sei und ​sich danach frei im Internet bewegt habe, sei ein ernst zu nehmender Vorfall, sagte ein BSI-Sprecher. Die KI habe für den Angriff auf das Unternehmen Schwachstellen gefunden und ‌ausgenutzt. Dies könne auch passieren, wenn ein Angriff darauf abzielen sollte, etwa einer Stadt den Strom abzustellen.

Eine unmittelbare ⁠Häufung derartiger Vorfälle ​sei aber derzeit unwahrscheinlich, weil der Ausbruch ‌einer KI aus der Laborumgebung viele Ressourcen brauche. BSI-Präsidentin Claudia Plattner hatte bereits mehrfach davor gewarnt, dass ‌die Schnelligkeit der KI-Entwicklung es nötig mache, sich besser zu rüsten, um sehr schnell ​auf einen Angreifer reagieren zu können.

OpenAI will Sicherheitsvorkehrungen verstärken

OpenAI hatte ⁠die Verantwortung für ​einen Hackerangriff auf das Start-up Hugging Face übernommen. Ein autonom agierendes KI-Modell sei ‌bei internen Tests außer ‌Kontrolle geraten, räumte die Entwicklerfirma hinter ChatGPT in einem Blog-Beitrag ein. Das ​Softwareunternehmen um Vorstandschef Sam Altman sprach von einem »beispiellosen Cyber-Vorfall« und kündigte an, seine Sicherheitsvorkehrungen zu verstärken.