EU AI Act fordert Transparenz beim KI-Einsatz - silicon.de

Das EU-Gesetz ist der weltweit erste umfassende Rechtsrahmen für KI und wird schrittweise eingeführt.

Ab dem 2. August 2026 gelten im Rahmen des EU AI Acts erste verbindliche Anforderungen für den Einsatz Künstlicher Intelligenz. Für Systeme, die vor dem 2. August in Betrieb genommen wurden, gilt in der Regel eine Übergangsfrist bis zum 2. Dezember 2026, um Transparenzmaßnahmen umzusetzen.

Der 2. August ist aber ein wichtiger Meilenstein für Transparenz und Durchsetzung in der gesamten Europäischen Union. Wesentliche Transparenzpflichten ist die Offenlegung der KI-Interaktion. Das heißt, wenn ein System direkt mit einem Nutzer interagiert – zum Beispiel ein Chatbot – muss es den Menschen deutlich darüber informieren, dass er mit einer Maschine interagiert.

Weiterhin müssen Ergebnisse generativer KI – einschließlich Deepfakes, Texten und manipulierten Audio- und Videomaterials, das zur Information der Öffentlichkeit bestimmt ist – klar und sichtbar als KI-generiert gekennzeichnet werden. Ziel ist es, Vertrauen in die Technologie zu stärken und mehr Transparenz dort zu schaffen, wo automatisierte Entscheidungen und KI-generierte Inhalte zunehmend Teil des geschäftlichen und gesellschaftlichen Alltags werden.

Wie die neuen Anforderungen umgesetzt werden können und welche Folgen sie für Unternehmen haben, bewerten Führungskräfte und Experten der Tech-Branche unterschiedlich.

Markus Ehrenmann, CTO bei Open Systems: Kein bürokratischer Selbstzweck

„Die Schlagzeilen um die Fristverlängerung im EU AI Act wiegen viele Unternehmen in falscher Sicherheit. Zwar hat die EU-Kommission die Anforderungen für Hochrisiko-KI-Systeme um rund 16 Monate verschoben, da technische Standards und Prüfverfahren noch nicht flächendeckend verfügbar sind. Wer daraus jedoch ableitet, dass beim Thema KI-Compliance mehr Zeit bleibt, unterschätzt den akuten Handlungsbedarf.

Denn die zentralen Transparenz- und Governance-Pflichten greifen schon ab August. Bereits in wenigen Wochen müssen Unternehmen nachweisen können, wie sie KI-Systeme steuern und überwachen – von Risikomanagement über technische Dokumentation bis hin zur menschlichen Aufsicht. Diese Vorgaben sind kein bürokratischer Selbstzweck, sondern der Rahmen für einen sicheren und verantwortungsvollen Einsatz von KI. Unternehmen, die die Fristverlängerung als Aufschub ihrer Verantwortung verstehen, setzen sich unnötigen Compliance-, Sicherheits- und Reputationsrisiken aus.“

Dirk Pfefferle, General Manger von Diligent DACH: Kein Hindernis für Innovation 

„Die bevorstehende Frist für die Transparenzvorschriften des EU AI Acts markiert einen Wendepunkt, denn sie verlagert die KI-Debatte von Grundsatzfragen hin zur praktischen Umsetzung. Ab August 2026 müssen Organisationen mehr tun, als nur über verantwortungsvolle KI zu sprechen. Sie müssen bestimmte KI-Nutzungen gemäß EU AI Act klar offenlegen – etwa wenn Nutzer mit bestimmten KI-Systemen interagieren, und in festgelegten Fällen, wenn Inhalte KI-generiert oder manipuliert wurden.

Transparenz ist kein Hindernis für Innovation, sondern die Grundlage für Vertrauen. Und gerade für deutsche Vorstände bedeutet das: KI-Transparenz ist längst nicht mehr nur eine technische oder Compliance-Frage, sondern ein zentrales Thema für Governance und Aufsicht. Organisationen, die ihre KI-Systeme erfassen, Risiken klar klassifizieren, Verantwortlichkeiten zuweisen und nachvollziehbare Kontroll- und Freigabeprozesse etablieren, sind nicht nur mit Blick auf Compliance besser aufgestellt, sondern stärken auch ihre Glaubwürdigkeit gegenüber Kunden, Investoren und Regulierungsbehörden.“

Axel Deininger, CIO von Utimaco: Wichtiger Meilenstein in der Umsetzung

„Auch wenn die Deadline für Hochrisiko-KI-Produkte verschoben wurde, bleibt der 2. August ein wichtiger Meilenstein in der Umsetzung des EU AI Acts. Ab diesem Datum werden die Transparenzanforderungen verpflichtend. Während für die meisten Anwender von KI-Systemen ein Label genügt, müssen Anbieter und Betreiber von KI-Systemen mit allgemeinem Verwendungszweck ihre Outputs auch maschinenlesbar kennzeichnen.

Ein ergänzend zum AI Act veröffentlichter Code of Practice sieht dafür signierte Metadaten vor. Für diese Signatur benötigen Anbieter und Betreiber sichere kryptografische Systeme, um Unmanipulierbarkeit sicherzustellen. Hardware-Sicherheitsmodule (HSMs) bilden die hardwarebasierte Grundlage für die Sicherung der kryptografischen Schlüssel, mit denen digitale Signaturen überprüft werden – eine unverzichtbare Voraussetzung für den fälschungssicheren Nachweis der Herkunft von KI-Inhalten. Unternehmen aus der Branche sollten dabei aber nicht nur das ‘Jetzt’ im Blick haben, sondern auch die rasante Entwicklung von Quantencomputern. Zukunftssichere Verschlüsselungssysteme müssen kryptoagil sein, um auch mit neuen, quantensicheren Algorithmen arbeiten zu können.“

Petr Amrhyn, CEO von Swisscom Trust Services: Keine Innovationsbremse, sondern Chance

„Der AI Act der EU ist ein wichtiger Schritt in Richtung mehr Vertrauen im digitalen Raum. Wir sollten diese Regularien nicht als Innovationsbremse sehen, sondern als Chance, mehr Akzeptanz für die Technologie in der Bevölkerung zu schaffen. Künstliche Intelligenz ist inzwischen ein fester Bestandteil der Gesellschaft und der täglichen Arbeit in Unternehmen geworden. Jetzt geht es darum, KI-generierten Content so zu kennzeichnen, dass Nutzer es direkt erkennen können. Dies geht weit über das Labelling als „AI Generated“ bei künstlich erzeugten Bildern hinaus. Die Inhalte sollen von KI-Systemanbietern auch maschinenlesbar gekennzeichnet werden. Vor allem in regulierten Kontexten wird dies wichtig. Verantwortliche sollten stets nachvollziehen können, wo wann welches KI-Modell Input geliefert oder Arbeitsschritte selbstständig übernommen hat. Automatisierbare Timestamping- und Signaturfunktionen werden in diesem Zusammenhang zur Pflicht für Unternehmen, die KI tief in ihre Geschäftsprozesse einbinden wollen.”

Tim Beck, CEO von BLP Digital: Gute Idee. Miese Umsetzung.

„Die Absicht hinter dem EU AI Act ist richtig: Menschen vor Missbrauch schützen. Das Problem ist die Umsetzung – und die ist typischer Bürokratie-Irrsinn. Alles ist entweder klein-klein durchreguliert oder so schwammig, dass am Ende Juristen statt Ingenieure entscheiden, was möglich ist.

Ein Beispiel: KI kann Bewerbungsprozesse deutlich beschleunigen. Aber bereits das Vorsortieren von Lebensläufen gilt unter dem AI Act als Hochrisiko-System. Das bedeutet konkret: technische Dokumentation, Protokollierungspflichten, menschliche Aufsicht, Konformitätsbewertung und die Registrierung in einer EU-Datenbank.  

Dabei reden wir über ein Tool, das der Personalabteilung einfach nur helfen soll, aus 500 Bewerbungen die 20 relevantesten herauszufiltern. Und das ist kein Einzelfall. Der AI Act ist voll von solchen Beispielen, bei denen aus praktischen Werkzeugen bürokratische Großprojekte werden. 

Wer den verantwortungsvollen Einsatz von KI so kompliziert macht, dass Unternehmen Projekte lieber aufschieben oder ganz bleiben lassen, schützt niemanden. Ganz im Gegenteil: Er bremst Innovation, gefährdet die Wettbewerbsfähigkeit und überlässt die technologische Führung anderen.“