KI-Videoüberwachung in Berlin: Unsichtbar am Kotti

Das Kottbusser Tor wird bald von KI-Kameras überwacht, die ein privates Unternehmen herstellt. Ein Künstler zeigt, wie sich die Technik überlisten lässt.

Am offenen Fenster von Simon Weckerts Atelier surrt ein Ventilator. Er kühlt mehrere Computerlaufwerke, die auf Hochtouren laufen. Die rauschenden und blinkenden Rechner ermitteln gerade Farbmuster, mit denen sich ein Algorithmus zur Objekterkennung austricksen lässt: Wer ein solches Muster auf der Kleidung trägt, wird von dem Programm nicht als Mensch erkannt.

Das T-Shirt „Digital Camouflage“ des Berliner Künstlers funktioniert nach genau diesem Prinzip. Es ist mit grellbunten, zapfenähnlichen Formen bedruckt. Und es wirkt, wie Weckert demonstriert. Wenn er in Alltagskleidung vor eine Kamera tritt, an die eine weit verbreitete Software zur Objekterkennung angeschlossen ist, setzt diese einen grünen Rahmen um ihn und deklariert ihn als „Person“. Aber sobald er das knallige T-Shirt vor seinen Oberkörper hält, verschwindet der Rahmen. Weckert ist für den Algorithmus unsichtbar.

„Es ist paradox: Für das menschliche Auge ist das Muster extrem auffällig. Aber eine Maschine sieht da nur Kauderwelsch“, sagt Weckert. Der 37-Jährige will mit seiner Arbeit auf die Schwächen moderner Technologien aufmerksam machen. „Ein Überwachungssystem kann durch ein Stück Stoff außer Kraft gesetzt werden. Wie viel Vertrauen sollten wir dann dareinsetzen, bevor wir es auf den öffentlichen Raum loslassen?“

Eine Frage, die Berlins schwarz-rote Koalition klar beantwortet: In diesen Tagen startet am Kottbusser Tor ein Pilotprojekt zur automatisierten Videoüberwachung mithilfe von künstlicher Intelligenz (KI). Die Technologie analysiert live das Verhalten von Menschen und soll bei bestimmten Bewegungen – etwa Schlagen, Treten, Messer zücken – Alarm schlagen.

Aktionismus vor der Wahl

Wie eilig es CDU und SPD mit der Umsetzung dieses Herzensprojekts vor der Wahl zum Abgeordnetenhaus haben, zeigte sich am Wochenende. Am Sonntagmorgen fuhr eine Hebebühne in der Reichenberger Straße vor und Arbeiter in Warnwesten begannen, die Kameras an den Gebäuden rund um den Kotti zu montieren.

Wenn die Arbeiten abgeschlossen sind, ist Berlin nach Mannheim und Hamburg die dritte Stadt bundesweit, die anlasslos den öffentlichen Raum mit einer Verhaltensscanner-Software überwacht. Die Maßnahme ist Teil der umfassenden Verschärfung des Berliner Polizeigesetzes, die die Koalition im im vergangenen Winter beschlossen hat. „Ziel ist es, die Sicherheit im öffentlichen Raum mit innovativer Technologie zu stärken und polizeiliches Handeln gezielt zu unterstützen“, heißt es dazu aus der Innenverwaltung.

Die Technologie soll nun an vier sogenannten kriminalitätsbelasteten Orten getestet werden. Dazu wird sie noch in diesem Jahr zusätzlich zum Kotti an der Warschauer Brücke installiert. Kommendes Jahr sollen Alexanderplatz und Görlitzer Park folgen. Zusätzlich ist der Einsatz im Objektschutz geplant. Der Testbetrieb soll im Dezember am Roten Rathaus, der Innenverwaltung sowie dem Jüdischen Museum starten.

Für die Ausstattung der „kriminalitätsbelasteten Orte“ hat die Dortmunder Firma Adesso den Zuschlag bekommen. Anders als in Mannheim und in Hamburg, wo das Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung die Technologie entwickelt hat, ist in Berlin also ein privatwirtschaftliches Unternehmen zuständig. Die Innenverwaltung rechnet mit rund 2,5 Millionen Euro Investitionskosten sowie 2,1 Millionen Euro Betriebskosten bis 2030.

CDU fordert Ausweitung

Während am Kottbusser Tor noch die Bauarbeiten laufen, fordert CDU-Spitzenkandidat Stefan Evers bereits eine Ausweitung der KI-Überwachung. „Dieser Weg ist genau der richtige, und davon brauchen wir noch viel mehr, weil das Berlin deutlich sicherer machen kann“, sagte Evers am Sonntag der dpa. „Die moderne Technik erlaubt der Polizei, Gefährdungssituationen frühzeitig zu erkennen und Polizisten darauf aufmerksam zu machen – bevor Straftaten überhaupt passieren.“



Das ist teurer, aber gefährlicher Mumpitz

Chaos Computer Club

Doch an der Effizienz der Technologie gibt es Zweifel. In Hamburg etwa geht aus dem Testbericht der Polizei hervor, dass das System in zwei Monaten rund 1.400 Hinweise generierte, aber nur elf davon polizeilich relevant waren. Mehr als 99 Prozent der Hinweise waren also nutzlos. Zudem übersah die Software eine Schlägerei.

Angesichts dieser Bilanz kritisiert der Chaos Computer Club (CCC) die Technologie als „teuren, aber gefährlichen Mumpitz“. Auch Linke und Grüne in Berlin sind gegen den Einsatz der Verhaltensscanner im öffentlichen Raum. „Die Technik ist fehleranfällig und birgt die Gefahr, Personen zu kriminalisieren, die von der Software erfasst werden“, sagt der Linken-Innenexperte Niklas Schrader. Schon das Liegen auf dem Boden könne zu Polizeieinsätzen führen. „Die Folge ist Verdrängung und Repression gegen marginalisierte Personen“, so Schrader.

Grünen-Innenpolitiker Vasili Franco warnt ebenfalls vor möglicher Diskriminierung: Ganze Bevölkerungsgruppen könnten unschuldig in den Fokus der Polizei geraten. „Gerade am Kottbusser Tor gibt es viele Suchtkranke. Die verhalten sich mitunter auch atypisch, ohne dass eine Gefahr von ihnen ausgeht“, sagt Franco und attestiert dem Senat „innenpolitisches Versagen“. Die Sicherheitsbehörden würden immer mehr Überwachungswerkzeuge bekommen, ohne deren Wirkung zu überprüfen.

Bundesweit mehr KI-Überwachung geplant

Tatsächlich wird der Videoüberwachung mit KI derzeit in ganz Deutschland der rote Teppich ausgerollt. So plant die Bundesregierung, die Bundespolizei mit der Technologie auszustatten. In Baden-Württemberg soll der Einsatz von Verhaltensscannern ausgeweitet und mit Gesichtserkennung kombiniert werden. Sachsen, Hessen und Saarland haben bereits ihre Gesetze entsprechend geändert, in Thüringen, Niedersachsen und Schleswig-Holstein wird daran gearbeitet. Und in Bremen läuft der Testbetrieb in der Straßenbahn.



Mit jedem neuen KI-Modell kann ich eine neue Kollektion herausgeben. Das ist dann wie die neue Herbstmode

Simon Weckert, Künstler

Eine unabhängige Evaluation ist nirgends vorgesehen – auch nicht in Berlin, wie die Polizei bestätigt. Deshalb kann auch der Künstler Simon Weckert letztlich nicht prüfen, ob sein Camouflage-T-Shirt die KI am Kottbusser Tor wirklich überlistet. Aber genau diese Unsicherheit wolle er damit kritisieren, sagt er: „Niemand weiß, ob und wie Technologie funktioniert, die nicht unabhängig getestet wurde.“ Es sei unklar, wie das System trainiert worden sei und welche Verzerrungen da womöglich drinsteckten.

Für die Ausweitung der automatisierten Überwachung sieht sich Weckert jedenfalls gewappnet. „Mit jedem neuen KI-Modell kann ich eine neue Kollektion herausgeben. Das ist dann wie die neue Herbstmode“, scherzt er. Ein Muster, das sein Computer kürzlich ausgespuckt hat, sieht aus wie ein Berg voller Äpfel. „Wenn ich das auf ein T-Shirt drucke, erkennt die Software tatsächlich Äpfel – aber keinen Menschen.“

Der drohende Erfolg der AfD bei den kommenden Landtagswahlen zeigt, wie stark rechtsextreme Kräfte inzwischen geworden sind. Gerade jetzt braucht es Zusammenhalt und Solidarität. Auch und vor allem mit den Menschen, die sich vor Ort für eine starke Zivilgesellschaft einsetzen. Die taz kooperiert deshalb mit "Alles beginnt im Zentrum". Die Kampagne unterstützt bundesweit linke, selbstverwaltete Orte und baut einen solidarischen Fonds für deren Schutz und Erhalt auf. Eine offene Gesellschaft braucht guten, frei zugänglichen Journalismus – und zivilgesellschaftliches Engagement. Finden Sie auch? Dann machen Sie mit und unterstützen Sie unsere Aktion.

Jetzt unterstützen

Mehr zum Thema

Mehr Ermittlungsbefugnisse für Polizei

Kabinett macht Weg frei für KI-Fahndung

Die Bundesregierung will der Polizei erlauben, Datensätze per KI zu analysieren und online abzugleichen. Am Ende könnte sogar Palantir eingesetzt werden.

Von Frederik Eikmanns und Gareth Joswig

KI-Videoüberwachung in Berlin

Verhaltensscanner bald auch vor dem Abgeordnetenhaus

Die Polizei will KI-Videoüberwachung auch beim Objektschutz einsetzen. Zusätzlich zu Kotti, Görli und Alex kommen die Kameras dann auch ans Parlament.

Von Hanno Fleckenstein

Neues Berliner Polizeigesetz

Rundum überwacht

Kommentar von Hanno Fleckenstein

Berlin bekommt ein neues Polizeigesetz. Die schwarz-rote Koalition ist dabei mehr an den Möglichkeiten zur Überwachung als an den Grundrechten interessiert.

taz FUTURZWEI im Abo entdecken

Endlich mal ein Magazin für Zukunft

taz FUTURZWEI ist unser Magazin für eine bessere Zukunft. Das Abo bietet jährlich vier Ausgaben für nur 38 Euro. Zudem erhalten Sie eine Ausgabe von Luisa Neubauers neuestem Buch „Was wäre, wenn wir mutig sind?“ (solange Vorrat reicht).

• Jedes Quartal neu in Ihrem Briefkasten
• Nur 38 Euro im Jahr
• Als Prämie Luisa Neubauers „Was wäre, wenn wir mutig sind?“
• Herausgegeben von Harald Welzer

Jetzt abonnieren

0 Kommentare