ChatGPT und Co.: Wie gefährlich ist künstliche Intelligenz?

KI-Stimme. Info

Gleich drei größere Hackerangriffe durch KI haben in letzter Zeit für Aufsehen gesorgt. Zuletzt war es ein neues Modell von Anthropic, dass durch Phishing-Mails Daten von ahnungslosen Nutzern erbeutete. Und zwar ohne das Wissen der Forscherinnen und Forscher, die das Modell Mythos 5 für Tests nutzten. Der Fall zeigt einmal mehr: KI wird immer besser darin, die Ketten zu sprengen, die Menschen ihr auferlegen.

Auch interessant

Experte gibt Entwarnung: Verbraucher vorerst nicht betroffen

Paul Elvers ist KI-Experte bei Funke und setzt sich seit 10 Jahren mit der Materie auseinander. Er kennt die Risiken, die die neuesten technischen Entwicklungen mit sich bringen. Er weiß aber auch: Man kann sie nicht aufhalten. Und das sollte man vielleicht auch gar nicht, denn er sieht KI vor allem als Chance.

Herr Elvers, wie gefährlich sind KI-Cyberangriffe für Verbraucherinnen und Verbraucher? Beispielsweise durch den Diebstahl von Daten?

Paul Elvers: Verbraucher müssen sich bei Meldungen über hackende KI keine Sorgen machen. Im Normalfall sind diese Modelle mit Sicherheitsmaßnahmen versehen, wenn sie genutzt werden. Gerade den Modellen, die für den Endverbraucher nutzbar sind, werden Riegel vorgeschoben, die ihnen ein schädliches Verhalten verbieten. Die Gefahr liegt eher bei Cyberkriminellen, die die KI für ihre Verbrechen nutzen.

Auch interessant

Wie könnte oder müsste die Bundesregierung Verbraucherinnen und Verbraucher vor Missbrauch durch KI schützen?

Die europäischen Staaten müssen in Cybersecurity investieren, um öffentliche Daten zu schützen. Dazu gehört auch, dass eine europäische KI-Souveränität hergestellt wird, um nicht mehr von fremden KI-Modellen abhängig zu sein. Die fehlenden Investitionen sind dabei die größte Blockade. Eigentlich fehlt es in Deutschland nicht an Talent. Es gibt sehr kluge Köpfe an den Hochschulen, etwa an der LMU oder der TU München. Doch die wandern ab in die großen US-KI-Labore.

Wie können Nutzerinnen und Nutzer sich und ihre Daten vor Betrug durch KI schützen?

Wichtig ist es, zu überlegen, welche Daten man selbst der KI zur Verfügung stellt. Es ist nicht ratsam, etwa seine Patientendaten, Geheimnisse oder andere sensible Informationen einem Chatbot zu schreiben. Denn auch bei der KI gilt: Die meisten Hacker profitieren davon, wenn Opfer aus freien Stücken ihre Daten herausgeben, etwa indem sie auf einer gefälschten Webseite Accountdaten und Passwörter eingeben.

Weil KI viele schadhafte Dinge tun kann, sind Modelle in mehrere Sicherheitsmechanismen eingebettet.

Paul Elvers, Funke KI-Experte

Wie können Nutzerinnen und Nutzer sich und ihre Daten vor Betrug durch KI schützen?

Wichtig ist es, zu überlegen, welche Daten man selbst der KI zur Verfügung stellt. Es ist nicht ratsam, etwa seine Patientendaten, Geheimnisse oder andere sensible Informationen einem Chatbot zu schreiben. Denn auch bei der KI gilt: Die meisten Hacker profitieren davon, wenn Opfer aus freien Stücken ihre Daten herausgeben, etwa indem sie auf einer gefälschten Webseite Accountdaten und Passwörter eingeben.

Lesen Sie auch

Für wie wahrscheinlich halten sie das Bedrohungsszenario, dass die KI der Menschheit über den Kopf wächst?

Das würde ich nicht ganz ausschließen, aber die Wahrscheinlichkeit ist nicht groß. Es ist letztlich immer noch eine Maschine, wenn auch eine sehr komplexe, und die verfügt über keine Intentionalität. Aber es entsteht immer wieder Hype um die vermeintlichen Fähigkeiten und Gefahren der KI. Mein Gefühl sagt mir, dass es auch eine gute Marketingmasche ist. Die Verbraucher wollen mächtige Werkzeuge.