KI-gestützte Waffen: UN und Rotes Kreuz fordern Verbot von Killer-Drohnen

Die Schwelle zum vollautomatisierten Krieg auf dem Schlachtfeld scheint fast schon überschritten. Vor dem Hintergrund unbestätigter Berichte über den Einsatz von Drohnen in der Ukraine, die mithilfe Künstlicher Intelligenz selbstständig Ziele auswählen und bekämpfen, wenden sich nun die Vereinten Nationen und das Internationale Komitee vom Roten Kreuz (IKRK) mit einem dringlichen Appell an die Weltgemeinschaft. UN-Generalsekretär António Guterres und IKRK-Präsidentin Mirjana Spoljaric Egger schlagen Alarm: Die Menschheit sei im Begriff, eine „moralische rote Linie zu überschreiten: das autonome Auslöschen menschlichen Lebens durch Maschinen“.

Das Risiko liegt laut dem Weckruf auf der Hand. Das humanitäre Völkerrecht verbiete Angriffe auf Zivilisten und zivile Infrastrukturen. In dynamischen Gefechtslagen sei die Unterscheidung zwischen Kombattanten und Zivilpersonen aber selbst für menschliche Soldaten eine sehr schwierige Aufgabe. Eine Maschine, die Entscheidungen über Leben und Tod trifft, sei nicht in der Lage, Nuancen menschlichen Verhaltens zu deuten.

Unberechenbarkeit des Schlachtfelds

Ein Verwundeter oder ein Soldat, der sich ergeben möchte, steht völkerrechtlich unter besonderem Schutz. Auch können Zivilisten unvorhergesehen in das Operationsgebiet autonomer Waffensysteme geraten. Ein Mensch kann hier in Sekundenbruchteilen seine Urteilskraft walten lassen. Algorithmen agieren dagegen rein datenbasiert. Laurent Gisel, Leiter der Abteilung für Waffen und Gefechtsführung beim IKRK, verweist darauf, dass moderne Kriege von Zerstörung und Chaos geprägt seien. Die Annahme, KI-Systeme könnten in solch einem Umfeld zurückhaltend operieren, widerspreche der Realität.

Daher fordern UN und IKRK die Staatengemeinschaft erneut auf, unverzüglich Verhandlungen über ein rechtlich bindendes Abkommen aufzunehmen. Das verlangte erweiterte Verbot konzentriert sich auf zwei Kategorien autonomer Waffen. Es sollen unvorhersehbare Systeme verboten werden, deren Verhalten von den Bedienern weder im Design noch beim Einsatz verlässlich antizipiert oder kontrolliert werden kann. Was nicht vorhersehbar sei, lasse sich völkerrechtlich nicht begrenzen.

Die Organisationen drängen ferner auf das Aus von Anti-Personen-Systemen, die gezielt auf Menschen gerichtet sind. Der Einsatz solcher Waffen reduziere das menschliche Leben auf bloße Datenpunkte, Sensorensignale und mathematische Berechnungen. Das sei ethisch nicht hinnehmbar.

In Genf unterstreichen Abrüstungsexperten die UN-Haltung: Waffensysteme, die ohne menschliche Kontrolle und menschliches Urteilsvermögen tödliche Gewalt ausüben, seien politisch inakzeptabel und moralisch verwerflich. Sogar namhafte Rüstungshersteller, Entwickler und Wissenschaftler äußern zunehmend Bedenken angesichts der unkontrollierten Dynamik und verlangen klare rechtliche Rahmenbedingungen.

Rechtliche Grauzonen und politischer Handlungsbedarf

Der von Guterres und Spoljaric gesetzte Zeitplan ist ambitioniert, aber nach Ansicht von Fachleuten unumgänglich: Noch 2026 sollen Verhandlungen über ein internationales Abkommen beginnen. Einen entscheidenden Meilenstein auf diesem Weg bildet die im November 2026 anstehende Konferenz zur Überprüfung der UN-Waffenkonvention in Genf. Dort müssen die Regierungen laut dem Appell den Mut aufbringen, konkrete Verbote zu beschließen. Bislang ging es bei den Gesprächen vor allem um „Killer-Roboter“.

Die EU schreibt bei zivilen Anwendungen mit dem AI Act zwar strenge Regeln für menschliche Aufsicht vor. Die Verordnung greift bei militärischen Systemen aber nicht. Der UN zufolge droht so eine Regelungslücke. Diese führe im schlimmsten Fall dazu, dass künftige Generationen in einer Welt leben, in der niemand mehr für tödliche maschinelle Entscheidungen zur Verantwortung gezogen werde.

(dmk)