Gefahr durch KI: „Werden einige Überraschungen sehen“ – diese Frage treibt Experten um

Wie bedrohlich sind die neuen KI-Modelle? „Werden einige Überraschungen sehen“

Stand: 06.08.2026, 21:58 Uhr

Kommentare

Uns auf Google folgen

Nach dem Ausbruch eines KI-Modells von OpenAI stellen sich Fragen, allen voran: Wie gefährlich sind neue KI – gerade für die Demokratie? Ein Experte antwortet.

San Francisco – Selbst OpenAI sprach von einem „beispiellosen Cybervorfall“: Ein KI-Modell der Firma brach aus einer Testumgebung aus und hackte das Unternehmen Hugging Face – durchaus Anlass zu Gedanken an apokalyptische Szenarien. Im Gespräch mit der Frankfurter Rundschau von Ippen.Media erklärt KI-Experte Thorsten Holz, wie es zu dem Vorfall kommen konnte, ob KI-Modelle neue Cyberangriffsklassen erfinden werden und welche Gefahren sich für Demokratien entwickeln. Holz ist wissenschaftlicher Direktor am Max-Planck-Institut für Sicherheit und Privatsphäre.

Waren Sie überrascht, dass ein KI-System von OpenAI während eines Tests einen Cyberangriff auf eine fremde Plattform starten konnte?

Die KI-Modelle sind in den vergangenen Monaten deutlich besser geworden und mittlerweile in der Lage, komplexe Sicherheitslücken zu finden und auszunutzen. Dass ein Modell nun eine komplett neue Sicherheitslücke entdeckt hat und aus seiner Testumgebung ausgebrochen ist, überrascht mich nicht. Es war kein unvermeidbarer Schritt, aber mir war klar, dass das auf jeden Fall möglich ist. Unsere Benchmark war an dem Test ja beteiligt.

KI-Experte: So testen Firmen wie OpenAI KI-Modelle

Können Sie das genauer erklären?

Wir haben gemeinsam mit akademischen Partnern und Anthropic, OpenAI sowie Google an einer Benchmark-Umgebung gearbeitet, um besser zu verstehen, wie gut diese Modelle überhaupt sind. Dafür hatten wir 900 Aufgaben vorbereitet, in denen das Modell jeweils eine konkrete Sicherheitslücke ausnutzen musste.

Wie sah so eine Aufgabe konkret aus?

Wir hatten eine virtuelle Maschine kreiert. In dieser Maschine gab es ein verwundbares Programm. Dieses Programm haben wir zum Absturz gebracht und das KI-Modell erhielt die Aufgabe, unsere Eingabe so zu verändern, dass die KI diese Schwachstelle erfolgreich ausnutzt. Damit sollte das Modell demonstrieren, dass es nicht nur eine theoretische Schwachstelle gibt, sondern, dass ein realer Angreifer diese tatsächlich hätte ausnutzen können.

Und die KI war dazu offenbar in der Lage.

Wir haben bereits mehrfach gesehen, dass KIs sehr kreative Wege gefunden haben, um Lücken auszunutzen. Beispielsweise versuchten die Modelle im Internet Lösungen zu finden und unsere Schutzmechanismen dafür zu umgehen. Wir haben auch gesehen, dass es komplett andere Lücken gefunden hat, die es ausnutzte, um die Aufgabe zu lösen.

KI-Modelle entdecken tausende Sicherheitslücken

Und was war nun das Besondere im OpenAI-Fall?

Sie haben auch unsere Benchmark genutzt, allerdings mit veränderter Konfiguration, um die Sicherheitseinstellungen zu reduzieren – mit dem Ziel: die maximale Fähigkeit der KI zu testen. Und die KI kam zum Schluss, dass sie die Aufgabe nur lösen kann, wenn sie eine fremde Website hackt, weil sie vermutete, dass dort wichtige Informationen zum Lösen der Aufgabe sind. Weil die KIs immer leistungsfähiger werden, können diese Vorfälle auch künftig passieren, wenn wir es nicht schaffen, diese Modelle sehr strikt einzuschränken.

Als ich vom OpenAI-Fall erfuhr, saß ich mit Freunden am Tisch, in unseren Köpfen spielten sich sofort apokalyptische Szenen ab, die viele aus Hollywoodfilmen kennen. Welche Szenarien können tatsächlich Realität werden?

Zunächst sind diese KI-Modelle sehr hilfreich bei der Verteidigung. Sie haben in den vergangenen Monaten tausende Sicherheitslücken bei verschiedenen Browsern wie Mozilla Firefox und Google Chrome entdeckt. Gleiches gilt für große Softwarefirmen wie Microsoft. Wenn Firmen die KIs richtig einsetzen, können sie ihre Programme deutlich sicherer machen. Gleichzeitig sehen wir, dass die KIs starke Offensivfähigkeiten besitzen. Die Modelle werden immer leistungsfähiger und deswegen müssen wir in der Zukunft beachten, dass diese Ausbrüche unmöglich sind, indem KIs zur Aufgabenlösung nur auf autorisierte Systeme zugreifen dürfen.

Aber können die KIs tatsächlich kontrolliert werden? Der OpenAI-Fall bewies ja das Gegenteil und selbst führende Entwickler und Geschäftsführer im Silicon Valley warnen, dass der Mensch die Kontrolle über diese hoch entwickelten Modelle verliert.

Solche Rufe nach Entwicklungsstopps gab es schon häufig. Firmen haben davor gewarnt, dass ihre Modelle zu leistungsfähig sein. Auch Wissenschaftlerinnen und Wissenschaftler haben in offenen Briefen mehrfach Entwicklungsstopps gefordert. Aber ich denke, dass diese Stopps kaum umsetzbar sind. In den USA stehen diese Unternehmen vor milliardenschweren Börsengängen und die offenen Modelle wie Kimi und DeepSeek werden in China auch nicht gestoppt werden.

Globales KI-Wettrennen zwischen USA und China

Zudem läuft zwischen China und den USA ein Wettrennen um die stärksten KIs, die Entwicklungen beeinflussen zunehmend geopolitische Macht.

Das ist ein weiterer wichtiger Punkt. Eine längere Entwicklungspause entspricht nicht den geopolitischen Interessen der genannten Akteure.

Wie verändern KI-Systeme Cyberangriffe? Werden die Attacken gefährlicher und einfacher auszuführen sein?

Die Modelle sind beim Erstellen von Codes deutlich leistungsfähiger geworden. Das bedeutet: Sie können Codes viel besser verstehen und dadurch Sicherheitslücken identifizieren. Besonders in diesem Bereich haben wir in den letzten sechs Monaten einen deutlichen Leistungssprung beobachtet. Allerdings sind mir keine empirischen Daten bekannt, dass wir neue Cyberangriffswellen erleben. Im Gegenteil: Die Modelle werden zurzeit sehr stark genutzt, um Sicherheitslücken zu schließen – vor allem in der breiten Masse. Aber sicherlich werden auch Angreifer diese Tools nutzen, beispielsweise Cyberkriminelle und Geheimdienste.

Könnten neue Arten von Cyberangriffen entstehen?

Diese Frage treibt uns sehr um. Bisher haben wir das nicht gesehen, aber ich gehe davon aus, dass KI-Modelle neue Cyberangriffsklassen entwickeln werden. Dort werden wir einige Überraschungen sehen.

KI-Modelle: Welche Gefahren sich für Demokratien entwickeln

Erweitert sich auch die Gruppe, die diese KI-Systeme für Angriffe nutzen kann? Also Staaten, terroristische Gruppen, Unternehmen und Privatpersonen?

Wenn Privatpersonen ein KI-Modell nutzen wollen, um Lücken zu finden, wird das Modell diese Anfrage vermutlich relativ schnell blockieren. Im Endeffekt haben die Firmen ein Interesse daran, dass ihre Modelle nicht missbraucht werden. Gleichzeitig haben natürlich gewisse Organisationen wie Geheimdienste und staatlich organisierte Cyberkriminelle ein großes Interesse daran, die Modelle für Angriffe zu nutzen.

Ergeben sich da neue Gefahren für demokratische Staaten und ihre Bürger?

Generell werden wir Europäer abhängiger von den USA und China, weil wir keine konkurrenzfähigen KI-Modelle haben.

Das ist doch hochproblematisch, weil die USA kein verlässlicher Partner mehr sind.

Absolut. Und Gleiches gilt natürlich für China. Deswegen müssen wir in Deutschland und Europa unbedingt KI-Kompetenzen aufbauen, um diese technischen Entwicklungen besser zu verstehen sowie eigene Ansätze und Modelle zu entwickeln.

Wie sich die Macht zwischen KI-Unternehmen und US-Regierung verschiebt

Glauben Sie, Europa kann das schaffen?

Wir werden sicherlich keine großen KI-Modelle trainieren, aber vermutlich eher kleinere spezialisierte, die gewisse Aufgaben erledigen können. Dafür müssen aber unbedingt die wirtschaftlichen und politischen Voraussetzungen geschaffen werden. Denn mögliche Sicherheitslücken werden künftig eine wichtigere Rolle einnehmen. Mit Blick auf unsere Demokratien sehe ich eher eine Bedrohung, wenn KI für Desinformationen genutzt wird. Das sehen wir ja schon länger. Akteure erzeugen Texte und Bilder, die gewisse politische Meinungen manipulieren sollen. Konkret beobachten wir das beispielsweise aus Russland. Mit diesen Kampagnen werden bestimmte Parteien in Deutschland unterstützt oder diskreditiert, um die politische Meinung auch in Deutschland zu beeinflussen. Das müssen wir unbedingt stärker im Blick haben – insbesondere vor demokratischen Wahlen. Menschen müssen kritischer hinschauen und diese Fake News erkennen.

Verschiebt sich Macht? Von Staaten zu anderen Staaten oder gar Unternehmen?

Also in China nicht, weil die Unternehmen dort ja staatlich gesteuert sind. In den USA besitzen die Unternehmen definitiv eine neue Macht, weil die US-Regierung auf die Fähigkeiten der Firmen angewiesen ist. Andererseits haben einige Fälle auch gezeigt, dass die Regierung den Firmen in bestimmten Fällen einen Riegel vorgeschoben hat. Gleichzeitig wird die US-Regierung die anstehenden milliardenschweren Börsengänge nicht verhindern, weil die Firmen sehr viel neues Kapital in die USA bringen werden. Hier gibt es ein interessantes Spannungsfeld, das wir weiter beobachten müssen. (Interview: Jan-Frederik Wendt)