Sicherheitslecks bei OpenAI und Anthropic: Legt eure KI an die Leine!

KI-Stimme. Info

Wenn Schwerverbrecher aus dem Hochsicherheitsgefängnis ausbüxen oder bedrohliche Viren aus dem Speziallabor freigesetzt werden, zieht man die Gefängnis- und Laborleitung zur Verantwortung. Beim Unfall im Atomkraftwerk müssen die Sicherheitsbeauftragten geradestehen. Die Pannen bei Tests von höchst leistungsfähigen KI-Modellen, wie jetzt von Anthropic und OpenAI, erwecken den Eindruck, als sei gefährliche Nachlässigkeit an der Tagesordnung.

Behörden erkennen „wachsenden Missbrauch“

• Mehr Cyberangriffe durch KI: Deshalb warnen Behörden vor der neuen Bedrohung

Wiederholt müssen die KI-Entwicklerfirmen oder nun britische KI-Sicherheitsforscher kleinlaut einräumen: Wir haben die Fähigkeiten unserer Modelle unterschätzt. Zuletzt hatten Sicherheitsexperten dem Modell Mythos bewusst Zugang zum Internet eingeräumt – gingen aber davon aus, es würde lediglich Softwarewerkzeuge aus dem Netz holen. Einem Modell, das aus Sicht der USA so leistungsfähig ist, dass der Zugang stark beschränkt und Europa praktisch außen vor ist. Das ist naiv und fahrlässig.

OpenAI und Anthropic in der Verantwortung: Setzt bei KI sichere Leitplanken

Die KI machte ihren Job: Sicherheitslücken finden und ausnutzen – mit allen ihr zur Verfügung stehenden Mitteln. Und zwar nicht, weil „die KI“ von Natur aus „böse“ wäre oder eine geheime Agenda verfolgte. Sondern weil Modelle von den Menschen dahinter ein festgelegtes Ziel mitbekommen.

Wenn Forscher das Ziel unsauber formulieren und das digitale Labor nicht hermetisch abriegeln, sondern ein Schlupfloch zum Internet gewähren, darf sich nachher niemand wundern, dass eines der fähigsten KI-Systeme die Lücke nutzt und auf seinem Weg zum Ziel Software manipuliert und Menschen mit Datenklau-Tricks übers Ohr haut. Setzt sichere Leitplanken, legt eure KI an die Leine. Sonst lässt sich das angeschlagene Vertrauen in KI nur mühsam wiederherstellen.