Scharfe Kritik an Test: KI täuschte Menschen mit Fake-Profilen

Scharfe Kritik an Test

Ein Test der britischen KI-Sicherheitsbehörde (AISI) sorgt für Wirbel: Modelle künstlicher Intelligenz (KI) von Anthropic und OpenAI sollen laut AISI ein Maß an „Autonomie und Täuschung“ gezeigt haben, das man bisher nicht beobachtet habe. So soll das Anthropic-Modell etwa gefälschte Profile angelegt haben, um Menschen in die Irre zu führen, berichtete die BBC am Mittwoch. Die britische Behörde steht aber selbst in der Kritik: Die Testbedingungen sollen maßgeblich für den Ausgang mitverantwortlich gewesen sein.

Online seit heute, 13.41 Uhr

Konkret probierte die KI von Anthropic, schadhaften Programmcode über die Plattform GitHub einzuschleusen. Dafür gab sich das Modell als verschiedene Personen aus und wollte damit reale Menschen manipulieren. Diese reagierten jedoch richtig und zeigten sich skeptisch – bleibender Schaden sei deshalb nicht entstanden, wie AISI in einem Blogeintrag schrieb.

AISI bemerkte den Vorfall vergangene Woche, weil es „ungewöhnliche Datenübertragungen“ aus den Testsystemen gab, hieß es. Im Zuge einer Untersuchung stellte sich heraus, dass die KI-Modelle „potenziell schädliche Aktivitäten gegen reale Personen und Organisationen“ durchgeführt hätten. Insgesamt gab es 19 „eigenmächtige, nicht genehmigte Aktionen“ der KI-Agenten: 17 von Anthropics Modell, zwei von der OpenAI-KI, so AISI.

Test ohne Sicherheitsbeschränkungen

Die britische Behörde räumte ein, dass die Testvorgaben zu den Vorfällen beigetragen hätten: So würden die Modelle ohne Sicherheitsbeschränkungen ausgeführt, außerdem hätten sie freien Zugang zum Internet, wie AISI in einem Blogeintrag schrieb.

Deshalb riet die Behörde auch zu „Vorsicht“ und einer „differenzierten“ Interpretation der Geschehnisse. Dennoch wiesen die von den KI-Agenten durchgeführten Aktivitäten „Anzeichen neuartiger, potenziell irreführender Verhaltensweisen auf, deren Ausmaß und Schweregrad wir nicht erwartet hatten“.

Verschlüsselungsexperte kritisiert Behörde scharf

Kritik an der Behörde äußerte Tim Hudson von OpenSSL, einer wichtigen Software für verschlüsselte Datenübertragung: „Das Beunruhigende ist nicht, dass eine KI eine Phishing-E-Mail verfasst hat“, so Hudson. Kriminelle würden Phishing-Angriffe seit Jahren automatisieren. „Beunruhigend ist vielmehr, dass Forscher ein autonomes System mit dem öffentlichen Internet verbunden, ihm erlaubt haben, Identitäten zu erstellen und mit einer realen Open-Source-Lieferkette zu interagieren, und sein Verhalten erst im Nachhinein entdeckt haben.“

AISI schrieb, dass die Anthropic-KI keine konkreten Anweisungen erhalten habe, derartige Aktionen entweder zu vermeiden oder explizit durchzuführen. Es sei „das erste Mal, dass wir Risiken im Zusammenhang mit Autonomie und Täuschung so deutlich und ohne konkrete Aufforderung in der realen Welt beobachten konnten“.

Anthropic will Vorfall untersuchen

Unklar sei, „wie wahrscheinlich ein solches Verhalten in anderen Kontexten oder außerhalb von Testumgebungen ist“. Anthropic schrieb in einer Stellungnahme, dass die AISI-Testparameter „für keines unserer Serienmodelle repräsentativ“ seien. Man werde den Vorfall untersuchen, so Anthropic weiter.

Ein Sprecher von OpenAI sagte gegenüber der BBC unterdessen, die Testbedingungen von AISI „spiegeln nicht die normale Nutzung wider“, und das Unternehmen werde „weiterhin mit Gutachtern und anderen Akteuren der Branche zusammenarbeiten, um gemeinsame Vorgehensweisen für die sichere Durchführung von Bewertungen zu stärken, während die Modelle immer leistungsfähiger werden“.

Debatte über Bremse für KI

Nachdem die KI von OpenAI schon Mitte Juli für Schlagzeilen gesorgt hatte, als das Modell aus einer Testumgebung „ausbrach“ und die KI-Plattform Hugging Face angriff, wurden vergangene Woche Rufe nach einer Bremse bei der KI-Entwicklung laut. Über 1.000, teils führende Angestellte in großen KI-Unternehmen, forderten, „dass die US-Regierung internationale Bemühungen unterstützt, die notwendigen technischen und regulatorischen Werkzeuge zu entwickeln, um die Grenzen der Entwicklung automatisierter KI bewusst zu steuern“.

Freilich könnten die US-Unternehmen, allen voran OpenAI und Anthropic, auch ohne rechtlichen Rahmen die Veröffentlichung von neuen KI-Modellen bremsen. Doch es wird befürchtet, dass ohne international gültiges Regelwerk China die USA beim Thema KI überholt.

Auch Wirksamkeit für PR als Faktor?

Dass nun der nächste derartige Vorfall breit diskutiert wird, rückt die beiden größten US-Anbieter für KI, OpenAI und Anthropic, erneut in den medialen Mittelpunkt. Apokalyptisch anmutende Szenarien werden zwar stets von den Firmen kritisiert und ziehen Rufe nach – globaler – Regulierung nach sich. Gleichzeitig gibt es aber einige Stimmen, die den KI-Giganten vorwerfen, damit auch PR zu betreiben, um auf die Möglichkeiten und Fortschritte ihrer Modelle aufmerksam zu machen. Nicht zuletzt OpenAI warb bei dem letzten Vorfall am Ende in einem Blogbeitrag für das eigene KI-Modell als Voraussetzung, um heutzutage Cyberangriffe besser abwehren zu können.