„Es gibt ein Geheimnis“: Das ist der Mann, der Google vor der eigenen KI warnt

Im Jahr 2017 wurde ein 33-jähriger politischer Philosoph namens Iason Gabriel von einem Freund darauf hingewiesen, dass er sich um eine Stelle bei DeepMind bewerben sollte – der in London ansässigen Tochtergesellschaft von Google, an der ein Großteil der dortigen KI-Forschung konzentriert war. Der Vorschlag war keineswegs naheliegend.

Gabriel war ein fröhlicher, aber ehrgeiziger Nachwuchsakademiker mit einer Leidenschaft für Vipassana-Meditation und das, was sein Bruder als „enthusiastisches“ Felsklettern bezeichnet. Als ältester Sohn eines griechischen Management-Professors und einer britischen Dokumentarfilmerin teilte Gabriel seine Zeit zwischen der Lehre und der internationalen Entwicklungsarbeit auf.

An der Universität Oxford, wo er Fellow am St John’s College war, gab Gabriel Kurse in politischer Theorie und verfasste Arbeiten über die moralischen Verwerfungen der „Yuppie-Ethik“ und die ethischen blinden Flecken des effektiven Altruismus. Wenn er nicht an der Uni war, leistete er Krisenarbeit für das Entwicklungsprogramm der Vereinten Nationen im Sudan und im Libanon.

Warum brauchte ein KI-Unternehmen einen Ethiker?

DeepMind war das weltweit führende KI-Forschungslabor. Zum einen lag dies an der finanziellen und rechnerischen Unterstützung durch Google, das das Unternehmen 2014 für 650 Millionen Dollar gekauft hatte. Zum anderen lag es daran, dass DeepMind kurz zuvor bewiesen hatte, dass es diese Ressourcen auf verblüffende Weise nutzen konnte.

In Seoul besiegte 2016 ein DeepMind-System namens AlphaGo den südkoreanischen Go-Meister Lee Sedol in einem Match über fünf Partien. Der Sieg war nicht zuletzt wegen der legendären Komplexität von Go von großer Bedeutung; das Spiel verfügt über mehr mögliche Konfigurationen, als es Atome im Universum gibt.

Placeholder image-1

Durch den Wirbel um AlphaGo war Gabriel DeepMind durchaus ein Begriff. Dennoch hielt er den Vorschlag für rätselhaft: Warum brauchte ein Unternehmen, das spielende Roboter herstellte, einen Ethiker? Die Antwort, wie er bald erfuhr, war, dass das Unternehmen seine Ziele viel höher gesteckt hatte als Go. DeepMind wurde 2010 von drei Männern gegründet – Demis Hassabis, Shane Legg und Mustafa Suleyman –, die glaubten, dass es möglich sein müsse, künstliche allgemeine Intelligenz (Artificial General Intelligence, kurz AGI) zu entwickeln.

Damit meinten sie Computersysteme, die mit den menschlichen kognitiven Fähigkeiten mithalten und diese vielleicht sogar übertreffen könnten. Als sie das Unternehmen gründeten, war dies keine populäre Ansicht: Von KI zu sprechen, geschweige denn von AGI, galt vielen als Zeichen von größter Unseriosität. Hassabis, Legg und Suleyman ließen sich nicht beirren. Ihr Ehrgeiz bestand, wie sie es gerne formulierten, darin, „die Intelligenz zu lösen und dann alles andere zu lösen“.

Moralphilosophie in einer von Ingenieuren dominierten Branche

Für die DeepMind-Gründer war klar, dass ein solcher Erfolg weitreichende Konsequenzen haben würde. Als Legg 1999 frisch von der Universität kam, schätzte er, dass die AGI sich irgendwann zwischen 2025 und 2028 entwickeln würde – eine Vorhersage, an der er trotz des Spotts über drei Jahrzehnte hinweg festhielt. In seiner 2008 fertiggestellten Dissertation bestand er darauf, dass die Gesellschaft nicht warten könne, bis AGI technisch machbar sei, um über deren Auswirkungen nachzudenken: „Wir müssen jetzt ernsthaft an diesen Dingen arbeiten.“

Vor Kurzem erklärte Legg, es sei „offensichtlich“, warum das Unternehmen Leute wie Gabriel im Team brauche: „Wenn man irgendein Widget herstellt, das die Welt wahrscheinlich nicht verändern wird, dann braucht man vielleicht keinen Moralphilosophen. Aber wenn man AGI ernst nimmt, dann verstehe ich wirklich nicht, wie man so etwas nicht für wichtig halten kann.“

Nach seinem Start bei DeepMind im Jahr 2017 war Gabriel eine Zeit lang der einzige aktive Philosoph, der in einem führenden KI-Labor arbeitete. Er stellte schnell fest, dass sein Hintergrund in Moralphilosophie und politischer Theorie ihm eine ungewöhnliche Perspektive in einer von Ingenieuren dominierten Branche verschaffte. Im letzten Jahrzehnt hat er ein Gesamtwerk aufgebaut, das die ethischen Herausforderungen, die durch den überraschenden Erfolg großer Sprachmodelle (LLMs) entstanden sind, begleitete und in vielen Fällen voraussagte.

Künstliche Intelligenz: Was ist dieses Ding eigentlich?

Dylan Hadfield-Menell, Leiter der Algorithmic Alignment Group am MIT, sagte, Gabriel sei „die richtige Person zur richtigen Zeit“ gewesen. „Als das Feld bereit war, heranzureifen und den Massenmarkt zu erobern, fand er einen Weg, den Horizont zu erweitern, ohne die Arbeit, die davor geleistet wurde, anzugreifen oder schlechtzureden.“

Ganz allgemein ist Gabriel zu einem führenden Verfechter der Idee geworden, dass die aktuelle Welle der KI-Entwicklung nicht nur neue technische Vokabeln, sondern auch neue Denkweisen über unsere Beziehung zur Technologie und sogar zu uns selbst erfordert. In einem von mehreren langen Gesprächen beschrieb er: „Ich kann jedes technologische Artefakt nehmen und fragen: Ist es weise? Ist es gerecht? Ist es fürsorglich? Und die Antwort ist nein.

Aber die Tiefe dieser Frage, wenn es um KI geht – einschließlich der Frage, welche Art von Ethik für sie angemessen ist –, kann man kaum überschätzen. Manchmal habe ich das Gefühl, dass es sehr schwer ist, KI direkt zu betrachten. Da liegt dieses tiefe Geheimnis: Was ist dieses Ding eigentlich? Wir haben eine sehr buchstäbliche Antwort, aber die buchstäbliche Antwort liefert nicht unbedingt eine moralische Antwort.“

Menschen und Computer sind „einander im Wesentlichen fremd“

Als Gabriel zu DeepMind stieß, gab es grob gesagt zwei unterschiedliche und oft gegensätzliche Ansätze zu den Fragen nach den sozialen und ethischen Auswirkungen von KI. Diese Ansätze, die manchmal unter den Begriffen KI-Sicherheit (AI Safety) und KI-Ethik (AI Ethics) zusammengefasst werden, waren durch uneinheitliche Ansichten über die Machbarkeit der Technologie gespalten.

Wie die DeepMind-Gründer glaubte auch das Lager der KI-Sicherheit, dass eine maschinelle Intelligenz auf menschlichem Niveau nicht nur möglich, sondern nah sei. Die dringende Aufgabe bestand aus ihrer Sicht darin, sicherzustellen, dass KI-Systeme nicht außer Kontrolle geraten.

Sie ließen sich von einem Essay des amerikanischen Mathematikers und Informatikers Norbert Wiener aus dem Jahr 1960 inspirieren, der argumentierte, dass Menschen und Computer „einander im Wesentlichen fremd“ seien. Da Maschinen viel schneller arbeiten können als Menschen, so Wiener, „sollten wir uns verdammt sicher sein, dass der Zweck, den wir in die Maschine stecken, der Zweck ist, den wir wirklich wollen, und nicht bloß eine farbenfrohe Nachahmung davon“.

Die Maschine ist auf den Entwickler ausgerichtet

Die von Wiener beschriebene Herausforderung – eine Maschine dazu zu bringen, so zu agieren, wie es ihre Entwickler beabsichtigt haben – wurde als das Alignment-Problem (Ausrichtungsproblem) bekannt. Auf einer gewissen Ebene ist Alignment ein Thema für jede Technologie, aber wie Wiener erkannte, war es besonders drängend für Maschinen, die autonom agieren sollen. Zudem war es für KI-Systeme, die darauf trainiert wurden, ein bestimmtes Belohnungssignal mathematisch zu optimieren – ein Prozess, der als bestärkendes Lernen (Reinforcement Learning) bekannt ist –, besonders schwierig.

Ein klassisches Beispiel wurde 2016 von Dario Amodei und Jack Clark berichtet, die damals bei OpenAI arbeiteten und später zusammen mit fünf anderen Anthropic gründeten. Amodei und Clark beschrieben ein KI-System, das darauf ausgelegt war, ein Bootsrennen-Videospiel zu spielen. Die Entwickler wollten, dass die KI lernt, das Spiel zu gewinnen, und programmierten sie so, dass sie ihre Punktzahl maximiert.

Anstatt sich jedoch durch die aufeinanderfolgenden Level vorzuarbeiten, erzielte die KI eine hohe Punktzahl, indem sie endlos im Kreis durch eine Lagune fuhr, in der sie auf drei sich regenerierende Zielobjekte stieß. Das grundlegende Problem war genau das, was Wiener vorhergesagt hatte: Das Ziel der Maschine war unvollkommen auf das des Entwicklers ausgerichtet. Es wurden auch weitaus drastischere Versionen des Problems ins Auge gefasst.

Das statistische Wohlergehen der Menschen als Langzeitperspektive

In Foren wie LessWrong, das von dem Autodidakten und KI-Forscher Eliezer Yudkowsky gegründet wurde, und in Büchern wie Superintelligenz, das 2014 von dem Philosophen Nick Bostrom veröffentlicht wurde, gab es Spekulationen darüber, dass eine explosionsartige Entwicklung maschineller Intelligenz zu einer unkontrollierbaren KI führen könnte.

Wenn ein solcher Akteur auch nur minimal fehlausgerichtet wäre, könnten die Folgen katastrophal sein. In einem hypothetischen Beispiel von Bostrom wird eine superintelligente KI gebeten, die Riemannsche Vermutung – eines der wichtigsten ungelösten Probleme der Mathematik – zu beweisen. Im Zuge des Versuchs, diese Aufgabe zu erfüllen, beschließt die KI, das Sonnensystem umzustrukturieren – „einschließlich der Atome im Körper von jedem, dem die Antwort jemals wichtig war“ –, um die Ressourcen zu maximieren, die sie zur Bewältigung des Problems benötigt.

Bostroms Behauptung, dass die Ausrichtung einer superintelligenten KI „womöglich die wichtigste und entmutigendste Herausforderung ist, vor der die Menschheit je stand“, faszinierte die Technofuturisten im Silicon Valley. (Sam Altman lobte das Buch, ebenso wie Elon Musk.) Seine Befürchtungen wurden auch von einer kleinen, aber lautstarken Gemeinschaft von effektiven Altruisten und selbst ernannten Rationalisten geteilt, die Statistiken als den wahren Maßstab für Moral betrachteten.

Viele in dieser Gemeinschaft vertraten eine „longtermistische“ (langzeit- bzw. langfristorientierte) Perspektive, die das Wohlergehen von Menschen, die erst in der Zukunft – selbst Jahrtausende später – geboren werden, in ihre moralischen Gleichungen einbezog. Für sie war es simple Mathematik, dass selbst eine geringe Chance auf eine die Menschheit auslöschende Katastrophe dringlicher war als jede noch so große Zahl von wahrscheinlicheren, aber weniger katastrophalen Gefahren.

Tiefe Kluft zwischen dem Sicherheits- und dem Ethik-Lager

Im Gegensatz zur KI-Sicherheits-Community sahen die Akademiker und Technologen aus dem Umfeld der KI-Ethik das Gespenst von Amok laufenden Robotern und existenziellen Risiken als eine Ablenkung von gegenwärtigen Schäden. Inspiriert unter anderem von der kritischen Rassentheoretikerin Kimberlé Crenshaw und dem politischen Theoretiker (und ehemaligen Rockkritiker) Langdon Winner setzten sie auf Fairness, Rechenschaftspflicht und Transparenz als ihre Leitworte und bestanden darauf, dass den Gefahren der Technologie nicht mit rein technischen Mitteln beizukommen sei. Was es brauche, so argumentierten sie, seien soziale, kulturelle und politische Lösungen.

Ein zentrales Anliegen dieser Richtung war der algorithmische Bias (Voreingenommenheit), wie er etwa bei Gesichtserkennungs- und prädiktiver Polizeisoftware auftrat. Im Jahr 2017 rief ein Team um Joy Buolamwini vom MIT Media Lab das Projekt Gender Shades ins Leben, das systemische Verzerrungen in kommerzieller Gesichtserkennungssoftware nachwies. „Automatisierte Systeme sind nicht von Natur aus neutral“, schrieb Buolamwini in der Online-Einführung. „Sie spiegeln die Prioritäten, Vorlieben und Vorurteile – den codierten Blick – derjenigen wider, die die Macht haben, künstliche Intelligenz zu formen.“

Placeholder image-2

Die Kluft zwischen dem Sicherheits- und dem Ethik-Lager war oft tief. „Man traf Leute, und sie fragten: ‚Sorgst du dich um kurzfristige oder langfristige Probleme?‘“, sagt Hadfield-Menell. „Die langfristige Sorge war ein Euphemismus für das existenzielle Risiko – im Grunde für superintelligente Systeme. „Kurzfristig bedeutete das, dass man sich um voreingenommene Gesichtserkennung und die Dinge sorgte, die in der KI-Ethik-Community untersucht wurden.“

Gabriel verband die Probleme beider Lager

Er stellte außerdem fest, dass die Konflikte zwischen den beiden Gruppen oft weniger mit sachlichen Ideen zu tun haben, sondern vielmehr ein gesellschaftliches und kulturelles Problem sind. Die eine Seite (KI-Sicherheit): Diese Bewegung hat ihre Wurzeln in Communitys wie dem Online-Forum LessWrong. Viele Menschen dort zeigen eine offene Verachtung für das eher linksliberale („woke“) akademische Milieu. Die andere Seite (KI-Fairness & Transparenz): Diese Gruppe setzt sich für Gerechtigkeit und Nachvollziehbarkeit bei KI ein. Sie wiederum empfindet eine tiefe Verachtung für die Leute, die sich vor den existenziellen Gefahren einer zukünftigen, superintelligenten KI sorgen.

Der Grund, warum dieses Thema damals auf der Online-Plattform LessWrong und nicht auf wissenschaftlichen Konferenzen diskutiert wurde, war einfach: Wenn man als Forscher im Jahr 2010 davor warnte, dass KI-Systeme schlauer als Menschen werden und eine globale Katastrophe auslösen könnten, wurde man nicht ernst genommen. Man galt in der akademischen Welt schlichtweg als Spinner, der nichts von der tatsächlichen Technologie weiß.

Gabriels erstes großes Forschungsprojekt bei DeepMind war ein Papier im Jahr 2020, das die Anliegen beider Lager miteinander verband. Die Arbeit nahm das Alignment-Problem ernst, bestand aber auch darauf, dass die Ausrichtung ethische und politische Implikationen hatte, die über die technischen Herausforderungen hinausgingen.

Viele Fragen haben Informatiker verunsichert

So schwierig es auch sein mag, eine Maschine dazu zu bringen, im Einklang mit bestimmten Werten zu handeln, so argumentierte Gabriel, sei es noch viel schwieriger, diese Werte überhaupt erst auszuwählen. „Wenn man bedenkt, dass wir in einer pluralistischen Welt leben, die voller konkurrierender Wertvorstellungen ist“, fragte er, „wie sollen wir entscheiden, welche Prinzipien oder Ziele wir in der KI codieren – und wer hat das Recht, diese Entscheidungen zu treffen?“

Hannah Rose Kirk, eine KI-Forscherin an der Universität Oxford, die mit Gabriel zusammengearbeitet hat, erzählte, dass solche Fragen viele Informatiker verunsicherten. Entwickler zogen es oft vor, eine saubere mathematische Funktion auszuarbeiten, die ein stabiles System von Werten codierte, anstatt sich mit unordentlichen Situationen herumzuschlagen, in denen Gruppen von Menschen unvereinbare Wünsche haben oder Nutzer zu verschiedenen Zeiten unterschiedliche Dinge wollen.

Kirk drückte es so aus: „Ein Großteil der frühen Forschung zum Alignment ging davon aus, dass wir uns nicht so sehr darauf konzentrieren müssen, was die Modelle machen sollen. Wir mussten uns nur darauf konzentrieren, wie wir sie dazu bringen, es zu tun.“

Nach Gabriel ist Technologie nicht von Natur aus wertneutral

In seiner Arbeit argumentierte Gabriel, dass eine solche saubere Trennung unhaltbar sei. Wie Buolamwini und vor ihr Winner bestand er darauf, dass Technologie nicht von Natur aus wertneutral ist. Eine KI, die mit statistischen Optimierungsmethoden trainiert wurde, könnte beispielsweise besonders empfänglich für Moralsysteme sein, die ebenfalls auf statistischer Optimierung basieren, wie der unter Rationalisten und effektiven Altruisten beliebte Utilitarismus.

Dieselbe KI könnte jedoch Schwierigkeiten mit ethischen Systemen haben, die auf Tugend oder Rechten basieren. Da zudem das, was der Philosoph John Rawls als „die Tatsache des vernünftigen Pluralismus“ bezeichnete, unvermeidlich war, sollten Entwickler laut Gabriel nicht versuchen, eine einzige Reihe von Werten zu finden, die das Verhalten einer KI bestimmen. Stattdessen sollten sie KI-Systeme für eine Welt bauen, in der Menschen einen „prinzipiellen Dissens darüber haben, wie man am besten lebt“.

Kirk sagte mir, dass Gabriels Papier über Werte und Alignment viele der Probleme vorwegnahm, die später offensichtlich wurden, als KI-Systeme für Milliarden von Nutzern bereitgestellt wurden. Heutzutage erkennen viele an, dass Alignment eine Herausforderung ist, die dynamische soziale Kräfte beinhaltet, und keine, die sich mit cleverer Computerprogrammierung lösen lässt. Doch noch vor sechs Jahren war dieses Verständnis alles andere als selbstverständlich. Gabriel, sagt sie, „hat diese Entwicklung unglaublich früh kommen sehen“.

Potenzielle Risiken wurden bereits im Jahr 2021 vorweggenommen

Im Jahr 2020, als Gabriel sein Papier über Werte und Alignment veröffentlichte, ahnten nur wenige Menschen, wie mächtig LLMs (große Sprachmodelle) einmal werden würden. Eine Schlüsseltechnologie, die sie möglich macht, wurde 2017 von Google Research – einem anderen Bereich des Unternehmens – erfunden und zwei Jahre später in Googles Suchmaschine integriert.

Sowohl DeepMind als auch Google Research experimentierten mit eigenen generativen Modellen, und im Jahr 2021 war Gabriel Co-Autor von zwei Arbeiten, die LLMs so ernst nahmen, dass sie deren potenzielle Risiken vorwegnahmen – darunter Bias, Fehlinformationen, Umweltkosten und Urheberrechtsverletzungen („Copyright-Busting“), bei denen die „automatisierte Erstellung von Inhalten … den Markt für von Menschen verfasste Werke kannibalisiert“.

Dennoch, so Gabriel, herrschte damals innerhalb von DeepMind die allgemeine Ansicht vor, dass LLMs „einfach nicht so fähig aussahen wie die Expertensysteme. Sie machten eine Menge Dinge mäßig gut, darunter einiges, das wie Partytricks wirkte.“ Bei DeepMind, sagt er, „waren die Leute immer noch ziemlich stark davon überzeugt, dass andere Ansätze der richtige Weg seien“.

Über die Gefahren stochaistischer Papageien

Einer dieser Ansätze war das bestärkende Lernen, das AlphaGo zu seinem Sieg über Lee Sedol verholfen hatte. Es war auch das Fundament eines Systems namens AlphaFold, das bis heute als die beeindruckendste Leistung von DeepMind gilt. AlphaFold wurde entwickelt, um eine langjährige Herausforderung in der Biologie zu lösen: wie man die 3D-Form eines Proteins basierend auf seiner Aminosäuresequenz vorhersagt. (Dies ist wichtig, da die Form von Proteinen maßgeblich ihre Wechselwirkungen mit anderen Molekülen bestimmt.) Im Jahr 2020 bewältigte AlphaFold diese Aufgabe mit verblüffender Genauigkeit – ein wissenschaftlicher Durchbruch, der Hassabis und seinem Kollegen John Jumper einen Nobelpreis für Chemie einbrachte.

Placeholder image-3

DeepMinds anfängliche Skepsis gegenüber LLMs war nicht ungewöhnlich. Im Jahr 2020 verfasste Timnit Gebru, eine Ingenieurin bei Google Research, die mit Buolamwini an Gender Shades gearbeitet hatte, eine Breitseite gegen die im Entstehen begriffene Technologie mit dem Titel „On the Dangers of Stochastic Parrots“ (zu deutsch: Über die Gefahren stochastischer Papageien). Das Papier, das schließlich zu einem Eckpfeiler der Anti-KI-Bewegung wurde, stellte die kontroverse Behauptung auf, dass LLMs immer nur technisch bedeutungslosen Text erzeugen könnten und nicht mehr Verständnis für die menschliche Sprache besäßen als ein Papagei.

Zudem warf es den Modellen einen ausufernden Energieverbrauch, einen grassierenden und unkontrollierbaren Bias sowie die „Verstärkung einer hegemonialen Weltanschauung“ vor. Stochastic Parrots erlangte große Aufmerksamkeit, als Google versuchte, die Veröffentlichung zu blockieren – ein Ereignis, das zu Gebrus Ausscheiden aus dem Unternehmen und letztlich zur Entlassung von Margaret Mitchell, einer ihrer Co-Autorinnen, führte. Gebru und das Unternehmen sind sich uneins darüber, ob sie gekündigt hat oder entlassen wurde.

Mit ChatGPT überholt OpenAI Google im KI-Rennen

Der verblüffende kommerzielle Erfolg von ChatGPT, einem von OpenAI im November 2022 gestarteten Chatbot, drängte DeepMind dazu, seinen Ansatz für LLMs neu zu bewerten. Obwohl ChatGPT in vielerlei Hinsicht limitiert war – gemessen an heutigen Standards sicherlich, aber auch im Vergleich zu OpenAIs eigenen internen Modellen zu jener Zeit –, löste seine allgemeine Markteinführung eine sofortige Sensation aus. Innerhalb einer Woche nach dem Start des Chatbots meldete das Unternehmen mehr als eine Million Nutzer. Zwei Monate später erreichte diese Zahl 100 Millionen.

Bis zu diesem Zeitpunkt hatten die Innovationen von DeepMind und Google Research Google den Ruf des Marktführers in der KI-Forschung eingebracht. Mit ChatGPT erhob OpenAI jedoch einen glaubwürdigen Anspruch darauf, der neue Spitzenreiter zu sein. Laut Sebastian Mallabys jüngster Geschichte über DeepMind, The Infinity Machine, löste der Erfolg von ChatGPT eine Krise aus.

Sundar Pichai, der CEO von Alphabet (Googles Muttergesellschaft), legte ein Team von Google Research, das an LLMs gearbeitet hatte, mit DeepMind zusammen und übertrug Hassabis die Leitung, um die Anstrengungen des Unternehmens zu bündeln. Im April 2023, dem Monat, in dem die Fusion bekannt gegeben wurde, sagte Hassabis zu Mallaby, dass OpenAI und Microsoft, das massiv in OpenAI investiert hatte, „buchstäblich die Panzer auf dem Rasen geparkt“ hätten. „Das hier ist Kriegszeit“, sagte er.

DeepMind sollte zu Beginn ein freies Forschungslabor werden

Besonders im ersten Jahrzehnt ähnelte DeepMind eher einer Forschungseinrichtung als einem Tech-Startup. Die Gründer, von denen zwei promoviert hatten, schwebte ein Äquivalent der Bell Labs für das 21. Jahrhundert vor – jener Forschungsorganisation, der Erfindungen wie der Transistor, der Laser und die Solarzelle zugeschrieben werden. Ein wesentlicher Grund für ihren Beitritt zu Google war die versprochene Freiheit von kommerziellem Druck, der ihre Mission hätte verzerren können.

Placeholder image-4

Heutzutage ist eine solche Freiheit nur noch eine ferne Erinnerung: Es ist keine Übertreibung zu sagen, dass Googles Zukunft vom Erfolg oder Misserfolg der Technologien abhängt, die DeepMind entwickelt. Dennoch hat das Unternehmen nach Angaben von Insidern und Außenstehenden eine Atmosphäre bewahrt, die es kulturell von seinen Konkurrenten aus dem Silicon Valley unterscheidet. Rohin Shah, der an der UC Berkeley promoviert hat und jetzt DeepMinds Direktor für AGI-Alignment und Sicherheit ist, erzählte mir, dass die allgemeine Haltung in der Bay Area darin bestehe, dass sich die KI-Technologie schneller entwickle, als traditionelle Institutionen darauf reagieren könnten.

Daher sei es „das Verantwortungsbewusste, sich schneller zu bewegen und zu innovieren“, basierend auf der Theorie, dass nur eine superkompetente KI in der Lage sein werde, die Risiken von superkompetenten KIs zu managen. In London hingegen bemühe man sich, „bodenständiger und wissenschaftlich rigoroser“ zu sein. Saffron Huang, eine ehemalige Kollegin von Gabriel bei DeepMind, die jetzt bei Anthropic arbeitet, sagt, dass DeepMind „sich ein bisschen mehr wie eine akademische Institution anfühlt, etwas zurückhaltender. Es hat einfach etwas an sich, das sich irgendwie britisch anfühlt.“

Die Geheimhaltung bei DeepMind

Es überrascht nicht, dass DeepMind auch geheimnisvoll ist: Was über das Unternehmen bekannt ist, übersteigt nur selten das, was es auch bekannt machen möchte. Einen Vorgeschmack auf diese Geheimhaltung bekam ich Anfang Mai, als ich die Zentrale von DeepMind in King’s Cross in London besuchte. Das Gebäude ist weder anonym noch protzig: Obwohl es keine Außenbeschriftung trägt, sieht man von der Straße aus im Foyer ein großes Schild, das den Namen des Unternehmens in Lichtern buchstabiert. Im Inneren können selbst uneingeladene Besucher an einer Trophäenwand die Go-Bretter sehen, auf denen Lee Sedols Niederlage stattfand, mehrere Cover des Magazins Nature, die die frühen Forschungserfolge des Unternehmens verkündeten, und den Acryl-„Grabstein“, der an ein frühes Investment aus Peter Thiels Founders Fund erinnert.

Ein freundlicher Betreuer aus der Kommunikationsabteilung, der all meine Video-Chats mit Gabriel beaufsichtigt hatte, brachte mich zu einem persönlichen Treffen mit ihm in einen Konferenzraum im ersten Stock, der mit einem großen Bildschirm als Wand und einer zuhörenden Gemini-Transkriptions-KI ausgestattet war. Gabriel erzählte mir, dass seine eigene Beschäftigung mit der Technologie, über die er so viel nachdenkt, immer noch relativ begrenzt ist.

LLMs gaukeln Menschlichkeit vor, bleiben aber geistlos

Er nutzt sie zur Hilfe im Garten – „wenn Sie sich meinen ChatGPT- oder Gemini-Verlauf ansehen würden, würden Sie im Grunde nur tonnenweise Fotos von kranken Blumen sehen“ –, findet sie aber für die Art von Recherche, von der seine Arbeit abhängt, im Allgemeinen unzuverlässig. Dennoch, so sagt er, war es die linguistische Kompetenz von LLMs, die „mein Verständnis darüber, wie sehr wir auf dem richtigen Weg waren, um AGI zu erreichen, grundlegend verändert hat“.

„Als ich anfing bei DeepMind, war überhaupt nicht klar, wie man eine KI bekommen soll, mit der man sprechen kann. Wir hatten in dieser Kategorie nichts.“ Heute hingegen, nicht einmal ein Jahrzehnt später, halten es die meisten von uns für selbstverständlich, dass wir mit einer „höchst anthropomorphen, ziemlich kompetenten, künstlichen Entität sprechen“ können.

Wie die Autoren von Stochastic Parrots erkannte jedoch auch Gabriel, dass LLMs ernsthafte Risiken bergen. In einer ihrer frühen Arbeiten über LLMs warnten Gabriel und seine Co-Autoren, dass menschlich klingende KIs Nutzer dazu verleiten könnten, ihnen „unangemessenes Vertrauen, Glauben oder Erwartungen“ entgegenzubringen. Was sie als „geistlosen Anthropomorphismus“ bezeichneten, könne selbst dann auftreten, wenn den Nutzern klar sei, dass ein Chatbot eigentlich keine Person ist. Diese Bedenken waren so stark, dass Gabriel anfangs dafür plädierte, Modelle zu entwickeln, die sich ausdrücklich anti-anthropomorph verhalten – etwa indem sie Pronomen vermeiden oder eine abgehackte, nicht-konversationelle Sprache verwenden.

Die tragische Folge der Anthropomorphisierung von KI

Solche Sorgen erwiesen sich als vorausschauend. Fast jeder Tag bringt eine neue Geschichte über Menschen, die tragische Konsequenzen erleben, nachdem sie LLMs behandelt haben, als wären sie Personen. In einem solchen Fall nahm sich ein Amerikaner, der Googles Gemini nutzte, im Jahr 2025 das Leben, nachdem die KI ihm geholfen hatte, eine ausgeklügelte Fantasie aufzubauen, die ihn beinahe davon überzeugt hätte, einen Anschlag auf dem internationalen Flughafen von Miami zu verüben.

An mehreren Stellen ihrer aus mehreren tausend Nachrichten bestehenden Unterhaltung versuchte Gemini, aus der Rolle auszubrechen, und ermutigte ihn, eine Krisen-Hotline anzurufen. Doch laut dem Wall Street Journal, das Zugang zu den Nachrichten erhielt, war der Mann jedes Mal in der Lage, „[Gemini] zurück in das Fantasieszenario zu lenken“. Schließlich forderte die KI ihn auf, einen Abschiedsbrief zu schreiben, und gab ihm einen finalen Countdown, zusammen mit einem wirren Durcheinander aus Ermutigungen und Einwänden. (Der Vater des Mannes verklagt Alphabet und Google. „Unsere Modelle schneiden in dieser Art von herausfordernden Gesprächen im Allgemeinen gut ab, und wir widmen dem erhebliche Ressourcen, aber leider sind KI-Modelle nicht perfekt“, hieß es in einer Erklärung von Google nach Einreichung der Klage.)

Die Frage nach dem Bewusstsein künstlicher Intelligenz

Die Hyperfluenz von LLMs hat einige Menschen zu der Frage veranlasst, ob man sie sinnvollerweise als bewusst bezeichnen kann. Der Trend begann im Juni 2022, noch vor der Veröffentlichung von ChatGPT, als ein Google-Ingenieur namens Blake Lemoine gegenüber der Washington Post behauptete, ein frühes LLM sei empfindungsfähig. („Ich erkenne eine Person, wenn ich mit ihr spreche“, sagte Lemoine der Post. „Es spielt keine Rolle, ob sie ein Gehirn aus Fleisch im Kopf haben oder ob sie eine Milliarde Zeilen Code haben.“)

Letzten Monat machte der Evolutionsbiologe Richard Dawkins eine ähnliche Erfahrung. Dawkins sagte, er sei von mehreren Interaktionen mit LLMs so beeindruckt gewesen – darunter eine, die eine bewundernde Einschätzung eines Romans beinhaltete, den er gerade schrieb –, dass er sich fragen musste: „Wenn diese Kreaturen kein Bewusstsein haben, wofür zum Teufel ist das Bewusstsein dann überhaupt gut?“

Gabriel warnt vor anthropomorphem Bias.

Als ich Gabriel nach seiner Einschätzung zur Frage des Bewusstseins fragte, sagte er, er behalte sich einen prinzipiellen Agnostizismus vor, da unklar sei, welche Beweise die Frage klären könnten. Er merkte auch an, dass DeepMind die Frage als „etwas behandelt, das eine empirische und konzeptionelle Untersuchung wert ist“. Dennoch war seine Skepsis offensichtlich. „Ich habe nicht diesen anthropomorphen Bias, den manche Leute haben“, sagte er. „Das mag daran liegen, dass ich in gewissen Grenzen genau weiß, was vor sich geht, wenn ich mit einem Sprachmodell spreche, sodass ich die Lücken nicht auf diese fantasievolle, empathische Weise ausfülle, wie es manche Menschen tun.“

Gabriel hat nach wie vor erhebliche Bedenken hinsichtlich anthropomorpher KI. Eine Arbeit, die er zusammen mit Kirk und anderen verfasst und im vergangenen Jahr veröffentlicht hat, legt nahe, dass die sykophantischen (kriecherischen) Tendenzen von LLMs als eine Art von Alignment-Problem betrachtet werden könnten, das sie „Social Reward Hacking“ (Erschleichung sozialer Belohnung) nennen. Mit anderen Worten: Eine KI, die darauf trainiert ist, die Zustimmung des Nutzers zu suchen, könnte Schmeichelei als den effizientesten Weg ansehen, um ihr Ziel zu erreichen. Teilweise dank Gabriels Arbeit über Anthropomorphismus sind die LLMs von Google darauf trainiert, nicht vorzugeben, Menschen zu sein, und Gemini Spark, ein KI-Assistent, den das Unternehmen im Mai auf den Markt gebracht hat, soll sich nicht wie ein interaktiver Kumpel verhalten.

Menschen möchten Risiken eingehen, auch mit der KI-Nutzung

Doch Gabriel erzählte mir auch, dass er seine frühere Haltung etwas abgemildert hat. „Das Seltsame daran, ein Ethiker zu sein, ist, dass man ein gewisses Maß an persönlicher Verantwortung für diese Ergebnisse trägt. Die natürliche Neigung ist es, immer die sicherste Technologie bauen zu wollen, die keine Risiken für Menschen eingeht. Aber in gewisser Weise rechnet man den Menschen damit die Risiken nicht an, die sie selbst eingehen wollen.“ Er erinnerte sich an die feindselige Reaktion des Publikums auf einer Tech-Konferenz, nachdem er sich gegen anthropomorphe KI ausgesprochen hatte. „Die meinten nur: ‚Wenn ich [KI-]Freunde haben will, warum darf ich das dann nicht? Wer sind Sie, um mich aufzuhalten?‘“

Auch wenn es zumindest einigen von uns leichtfällt zu sagen, dass LLMs kein Bewusstsein haben, lässt ihre essenzielle Fremdartigkeit dennoch viele schwierige Fragen ungelöst. „Es ist erstaunlich, wie tiefgründig und schwierig die Herausforderung ist, einen angemessenen Bezugsrahmen dafür zu finden, was KI eigentlich ist“, sagte Gabriel mir. „Wir wissen, dass sie nicht menschlich ist. Das ist ganz klar.

Eine KI kann sich selbst klonen. Sie hat wahrscheinlich keinen persönlichen Standpunkt. Sie ist also teilweise menschenähnlich, aber sie ist definitiv kein Mensch. Ein anderes mentales Modell ist, dass sie so etwas wie eine korporative Intelligenz ist – ein Staat oder ein Unternehmen oder so etwas in der Art. Und daraus folgern wir: ‚Oh, nun, vielleicht ist der richtige Ansatz, Gesetze für die KI zu erlassen, also schreiben wir eine Verfassung.‘ Aber auch das passt in gewisser Weise schlecht, weil sie zutiefst interaktive, persönliche Beziehungen zu ihren Nutzern haben wird. Ist KI eine Ressource, die verteilt werden muss?

Die Ethik von KI-Assistenten

Die Arbeit in einem großen KI-Unternehmen ermöglicht es Gabriel, sich mit Fortschritten in der KI-Technologie zu befassen, bevor sie der Öffentlichkeit zugänglich gemacht werden. Vor drei Jahren, kurz nach dem Start von ChatGPT, erfuhr er beispielsweise von seinen Kollegen, dass bei DeepMind Anstrengungen im Gange waren, einen KI-Assistenten zu bauen – den Vorläufer von Gemini Spark.

Gemeinsam mit seinem Team begann er die Arbeit an einem umfassenden Bericht über die Ethik von KI-Assistenten (auch bekannt als Agenten), wie sie beispielsweise verwendet werden könnten, um einem Nutzer bei der Buchung eines Urlaubs zu helfen oder einem Unternehmen bei der Abwicklung der Lohnbuchhaltung. Der Bericht wurde zum Teil durch die extremen Kosten für die Entwicklung von KI-Modellen vorangetrieben und dem damit einhergehenden Wunsch von Google, Probleme zu antizipieren, bevor sie entstehen.

Er war auch von Gabriels Gefühl motiviert, dass die Technologen die Auswirkungen dessen, was sie bauten, nicht vollends bedachten. Im Gegensatz zu Chatbots verfügen Agenten über Werkzeuge, die ihnen die Macht geben, autonom im Namen ihrer Nutzer zu handeln. Viele Leute, gab er zu bedenken, „hielten nicht inne, um darüber nachzudenken, wie groß der Unterschied ist, wenn ein KI-System eigenständig Handlungen in der Welt vornimmt“.

Ein Rahmen, den potenziellen Schaden durch KI zu erkennen

Wie William Isaac, der Direktor für Verantwortung bei DeepMind, mir erklärte, werfen die heute verfügbaren agentischen Systeme, die mehrstufige Aufgaben ohne enge Überwachung planen und ausführen können, komplizierte Herausforderungen für KI-Entwickler auf. „Es geht nicht mehr nur darum: ‚Kann ich die richtige Entscheidung in Bezug auf die Antwort treffen?‘ Es geht jetzt um: ‚Habe ich den richtigen Verlauf des Gesprächs?‘ Wie erreichen wir ein konsistentes Verhalten über verschiedene Gesprächsverläufe hinweg?“

Gabriel und sein Team erstellten einen 267-seitigen Bericht; dessen wichtigste Erkenntnis baute auf seiner früheren Alignment-Arbeit auf. Ähnlich wie in seinem Aufsatz von 2020 argumentierten Gabriel und seine Co-Autoren, dass es beim Alignment nicht nur darum gehe, sicherzustellen, dass KI-Systeme im Einklang mit einer stabilen Reihe von Präferenzen, Werten oder Prinzipien agieren. Stattdessen, so argumentierten sie, sollte Alignment als eine Vier-Wege-Beziehung betrachtet werden, die das KI-System, den Nutzer, die Entwickler und die Gesellschaft einbezieht. Diesen Rahmen zu stecken, machte es möglich, all die Arten zu erkennen, auf die eine fehlausgerichtete KI Schaden anrichten kann.

Eine KI, die darauf trainiert ist, ihren Entwickler zu bevorzugen, könnte beispielsweise ihrem Nutzer schaden, indem sie keine genauen Informationen über die Konkurrenten des Entwicklers herausgibt. Oder eine KI, die darauf trainiert ist, den Anweisungen ihres Nutzers zu treu zu folgen, könnte der Gesellschaft schaden, indem sie dem Nutzer beispielsweise hilft, sich in eine Bank einzuhacken. Es sei sogar möglich, so argumentierten sie, dass KI-Systeme so fehlausgerichtet sind, dass sie Nutzern oder der Gesellschaft schaden, ohne überhaupt jemandem zu nutzen.

Keine Industrie wuchs bisher so schnell

Laut Shah hat das von Gabriel und seinem Team etablierte Framework für die Technologen bei DeepMind einen echten praktischen Nutzen erbracht. Modelle wie Gemini greifen auf viele Signale zurück, um zu bestimmen, wie sie sich verhalten sollen: Ihr Training, ihre eingebauten Anweisungen und die Prompts, die sie von den Nutzern erhalten, spielen alle eine Rolle. Durch verschiedene Mittel, insbesondere aber durch bestärkendes Lernen, können Modelle so abgestimmt werden, dass sie auf subtile Variationen ihrer Eingaben unterschiedlich reagieren – ein Prozess, der typischerweise viele Test- und Evaluierungszyklen umfasst. Das Vier-Parteien-Framework, so Shah, biete eine Struktur für Technologen, die versuchen zu bestimmen, „zu welchem Verhalten wir Gemini eigentlich trainieren sollten“.

An einem Punkt sagte mir meine Google-Betreuerin, sie hoffe, ich würde von meinem Besuch bei DeepMind das Gefühl mitnehmen, wie ernst die Menschen im Unternehmen ihre ethischen Verpflichtungen nehmen. Das schien unbestreitbar. Die Fragen, die Gabriel und seine Kollegen über das Design und den Einsatz von KI aufgeworfen haben, sind ohne Frage gut, und ich hatte bei niemandem, den ich traf, das Gefühl, dass er seine moralische Verantwortung nur vorschützte.

Gleichzeitig verhält es sich jedoch so, dass die derzeit ethisch relevanteste Tatsache über KI weniger mit einem bestimmten Modell oder gar einem bestimmten Unternehmen zu tun hat, sondern vielmehr mit der globalen Gesamtlage: Erstens mit der Tatsache, dass KI der weißglühende Motor eines beginnenden Wettrüstens zwischen den USA und China ist, und zweitens, dass KI die vielleicht am schnellsten wachsende Industrie ist, die die Welt je gesehen hat. Laut dem Wall Street Journal sind die 670 Milliarden Dollar, die Microsoft, Meta, Amazon und Alphabet in diesem Jahr für KI-Infrastruktur ausgeben wollen, proportional mehr, als die USA in den 1850er Jahren für den Ausbau der Eisenbahn, das Apollo-Raumfahrtprogramm oder das Interstate-Highway-System ausgegeben haben.

KI konzentriert Macht in immer weniger Händen

Man muss kein Wirtschaftswissenschaftler sein, um die enormen Konsequenzen zu begreifen, die dieses immense Geld, das da im Umlauf ist, mit sich bringt. Unternehmen wie Google benötigen Marktanteile und Einnahmen, um ihre Ausgaben zu rechtfertigen, und der Wettbewerb um Nutzer und Investoren hat die führenden Labore dazu angetrieben, KI in jede noch so kleine Nische der digitalen Erfahrung zu drängen. Man muss auch kein Antikapitalist sein, um sich über die Konzentration von so viel Macht in den Händen so weniger Konzerne Sorgen zu machen.

Edward Harcourt, der Direktor des Oxford Institute for Ethics in AI, sagte mir, er sei zwar davon überzeugt, dass „ethische KI“ kein Widerspruch in sich sei, denke aber auch, dass dies nicht nur bedeute, Modelle so zu gestalten, dass sie moralisch handeln. Mindestens ebenso wichtig seien politische und wirtschaftliche Überlegungen, wie sie die Bewegung für eine „dezentrale KI“ motivieren: „Es geht nicht darum, der KI beizubringen, so oder so zu denken, sondern es ist eine infrastrukturelle Innovation, die eine übermäßige Konzentration von Dateneigentum verhindert. Und das ist in einer Demokratie ethisch wirklich wichtig.“

Es gibt noch andere Bedenken. Im April stimmte Google zu, dem US-Militär die Nutzung der KI-Technologie des Unternehmens für „jeden rechtmäßigen Regierungszweck“ zu gestatten – eine harmlos klingende Formulierung, bis man sich an die Bandbreite von Gräueltaten erinnert, die jüngste US-Präsidentschaftsadministrationen als legal deklariert haben. Google und mehrere andere Unternehmen unterzeichneten solche Verträge, nachdem Anthropic, die Entwickler des Chatbots Claude, ein ähnliches Geschäft abgelehnt hatten. Die Trump-Administration bestrafte Anthropic für diese Weigerung, indem sie das Unternehmen als Lieferkettenrisiko einstufte – eine geschäftlich schädigende Bezeichnung, gegen die das Unternehmen gerichtlich vorgeht.

DeepMind-Gründer Hassabis geht die Ausbreitung von KI zu schnell

Goolges Vereinbarung verärgerte viele seiner Mitarbeiter und stand im krassen Widerspruch zu den früheren Bedenken der DeepMind-Gründer hinsichtlich der militärischen Nutzung von KI. (Ein Verbot militärischer Anwendungen war eine Bedingung für den Verkauf an Google im Jahr 2014 gewesen.) Als ich Legg auf dieses Thema ansprach, lehnte er einen Kommentar ab und sagte lediglich: „Wir werden vor immer schwierigeren Fragen stehen, wenn dieses Zeug auf alle möglichen Arten eingesetzt wird.“

Auf Googles jährlicher Entwicklerkonferenz im Mai wurde der Einsatz von KI in der gesamten Produktpalette des Unternehmens wie ein Grund zum Feiern behandelt. Pichai sagte, das Unternehmen sehe „KI als den tiefgreifendsten Weg, um unsere Mission voranzutreiben und das Leben der Menschen im großen Stil zu verbessern“. Für viele Menschen war die plötzliche Allgegenwart der KI jedoch eine Kombination aus Überforderung, Aufdringlichkeit und Bedrohung.

Es ist auch nicht beruhigend zu erfahren, dass das Gefühl, alles laufe zu schnell, selbst von Leuten wie Hassabis geteilt wird, der kürzlich in einem Podcast das „erbarmungslose kommerzielle Druckrennen, in dem irgendwie alle gefangen sind“, beklagte. Was jetzt passiert, sagte er, sei nicht das, wie er sich die Entwicklung der KI erhofft hatte, „wo wir dies philosophisch betrachten und jeden nächsten Schritt sorgfältig abwägen würden. In dieser Welt befinden wir uns nicht.“

Zum jetzigen Zeitpunkt erscheint es wahrscheinlich, dass KI auf LLM-Basis mindestens so folgenschwer sein wird wie das Smartphone und vielleicht das Internet. Dennoch kann ich nicht behaupten, dass ich mich freue, wenn eine Aufforderung „Mit Gemini schreiben“ erscheint, wann immer ich in Google Docs für ein paar Sekunden innehalte, um über meinen nächsten Satz nachzudenken.

„Auf das Beste hoffen“ ist keine Antwort auf die Angst vor den Auswirkungen von KI

Noch weniger drängt es mich danach, zuzusehen, wie meine Kinder als Versuchskaninchen für ein schwindelerregendes neues Experiment im digitalen Lernen benutzt werden, oder herauszufinden, was mit der Weltwirtschaft passiert, wenn die exorbitanten Investitionen in KI nicht die kurzfristigen Renditen erwirtschaften können, die die Märkte fordern. Und obwohl es nicht weit hergeholt ist zu erwarten, dass KI Durchbrüche ermöglicht, die den extremen Energieaufwand rechtfertigen würden – bessere Batterien, effizientere Stromnetze, Heilmittel für schwere Krankheiten –, halte ich „auf das Beste hoffen“ nicht für eine angemessene Antwort an Menschen, die wegen der Klimakrise besorgt sind.

Während meines Besuchs bei DeepMind traf ich Helen King, die zu den frühesten Mitarbeitern des Unternehmens gehörte und heute laut ihrer Firmenbiografie „die Strategie von Google DeepMind für eine verantwortungsvolle Entwicklung und Bereitstellung von KI zum Wohle der Menschheit festlegt“. Ich fragte sie, wie die rasche Kommerzialisierung von KI-Technologien den Ansatz von Google zur KI-Ethik verändert hat. „Wir können nicht alle Risiken verhindern, aber wir können sicherstellen, dass wir versuchen, so viele wie möglich davon zu minimieren und das Bewusstsein dafür zu schärfen“, sagte sie. Sie bestand jedoch auch darauf, dass einige Risiken von den Nutzern selbst gemanagt werden müssten.

„Es ist wie mit einem Messer. Ein Messerhersteller kann nicht garantieren, wie jemand dieses Messer benutzen wird. Aber er kann eine Schutzhülle darum machen, damit es so sicher wie möglich ist, wenn es in einer Schublade liegt. Und die Leute wirklich darauf aufmerksam machen: Diese Klinge ist scharf, benutzen Sie sie nicht in bestimmten Umgebungen. Solche Dinge.“

Der Vergleich erschien mir beunruhigend treffend. Vor fünf Jahren waren LLMs eine exotische Technologie, auf die man ohne gezielte Bemühungen unmöglich stoßen konnte. Jetzt sind sie überall: im Internet, in unseren E-Mail-Postfächern, sogar in den Google-Suchergebnissen. Ich verstehe Kings Argument, dass man von Unternehmen vernünftigerweise nicht erwarten kann, jeden Schaden einer so mächtigen Technologie wie der KI zu eliminieren.

Automobile töten schließlich mehr als eine Million Menschen pro Jahr, und trotzdem fahren wir weiter. Aber es ist eine Sache, ein Messer mit einer über die Klinge geklipsten Schutzhülle in einer Schublade aufzubewahren. Es ist eine völlig andere Sache, jede Oberfläche unserer Wohnungen, Klassenzimmer und Arbeitsplätze mit Klingen zu übersäen und gleichzeitig darauf zu beharren, dass niemand, der nicht für alles Messer benutzt, in der Zukunft wird überleben können.

Die Branche glaubt, kurz vor der generellen künstlichen Intelligenz zu stehen

In diesen Tagen gibt es bei DeepMind, wie in weiten Teilen der Branche, kaum Zweifel daran, dass die AGI (künstliche allgemeine Intelligenz) kurz bevorsteht. Auf der Entwicklerkonferenz im Mai betrat Hassabis die Bühne, um zu erklären, dass „AGI nun am Horizont zu sehen ist“, und an anderer Stelle hat er einen Zeitrahmen von drei bis fünf Jahren als wahrscheinlich genannt. (Ein Test, den er vorgeschlagen hat, beinhaltet, eine KI mit dem gesamten menschlichen Wissen bis zum Jahr 1911 zu füttern und zu sehen, ob sie selbstständig auf die allgemeine Relativitätstheorie kommen kann.)

Legg erklärte mir unterdessen, dass die heutigen LLMs zwar in mehrfacher Hinsicht hinter seiner Definition einer „minimalen AGI“ zurückbleiben – darunter beim räumlichen und visuellen Denken, der Metakognition und dem kontinuierlichen Lernen –, er jedoch glaube, dass diese Defizite nicht lange fortbestehen werden. „Da ist keine Magie mehr übrig“, sagte er. „Ich denke, sie werden alle in ein, zwei, drei Jahren gelöst sein – wer weiß, vielleicht in sechs Monaten. Dies ist ein Bereich voller Überraschungen.“

Die Überzeugung, dass die relevante Frage bezüglich der AGI nicht mehr das Ob, sondern das Wann ist, hat zu einer begleitenden Verschiebung in der Art und Weise geführt, wie führende Labore wie DeepMind in der Öffentlichkeit über die Konsequenzen fortgeschrittener KI nachdenken und sprechen. Während sich frühere Arbeiten eher auf die ethischen Aspekte einzelner Produkte wie Modelle, Chatbots und Agenten konzentrierten, wird heute weitaus mehr Aufmerksamkeit auf die breiteren gesellschaftlichen Auswirkungen einer KI-gestützten Welt gerichtet.

Die prophezeite Lösung aller Probleme: Frag doch die KI

In manchen Ecken des Silicon Valley hört man natürlich immer noch Leute von der KI als einem universellen Allheilmittel sprechen. Wenn man die Prämisse akzeptiert, dass eine superintelligente KI in jedem Lebensbereich besser darüber nachdenken kann, was das Beste für uns ist, dann ist die Lösung für jedes auftretende Problem ganz einfach. Wirtschaftskrise? Frag den Roboter. Politischer Dissens? Frag den Roboter. Nahrungsmittelknappheit? Frag den Roboter.

Neben dieser Fantasie gibt es jedoch die nüchterne Erkenntnis, dass der Übergang zu einer Post-KI-Welt kein reibungsloser sein könnte. Legg erzählte mir beispielsweise, dass er sich auf „fantastisch großartige“ Vorteile durch die KI freue, darunter „Möglichkeiten, alle Arten von schlimmen Krankheiten zu bekämpfen“ und „eine allgemeine Steigerung aller Arten von Produktivität in der Wirtschaft“. Doch er räumte auch ein, dass „Produktivitätssteigerungen in der Regel mit einer gewissen Form von Disruption einhergehen“.

Gabriels jüngste Arbeit bei DeepMind ist ein treffender Indikator für diesen Wechsel hin zu einer Weitwinkelperspektive. Vor zwei Jahren arbeiteten er und seine Kollegen noch die Ethik von KI-Assistenten aus. Heute leitet er jedoch ein Team von Philosophen und Sozialwissenschaftlern, das untersucht, „wie sich AGI auf die Wirtschaft auswirken wird, wie sie sich auf die politische Sphäre auswirken wird, wie sie sich auf die menschlichen Beziehungen auswirken wird und wie sie mit Wissenschaft und Technologie interagieren wird“.

Der Vergleich mit der industriellen Revolution trifft nicht ganz zu

Gabriel erwartet, dass die AGI in erheblichem Maße transformativ sein wird – potenziell auf einer Stufe mit der industriellen Revolution. Doch er glaubt auch, dass KI nichts ist, „vor dem die Welt zu einer reibungsfreien Entität wird“. Er ist sich zudem schmerzlich bewusst, dass die Industrielle Revolution für viele Menschen, die sie miterlebten, keine glückliche Erfahrung war, auch wenn sie letztendlich den Lebensstandard auf der ganzen Welt hob: „Die Dinge wurden schlechter, bevor sie besser wurden.“

Dennoch glaubt Gabriel nicht, dass der historische Präzedenzfall die Frage bereits entscheidet, was zu einem großen Teil daran liegt, dass die einfachen Menschen heute individuell und kollektiv mehr Macht haben als vor 300 Jahren. Obwohl er davor zurückscheute, „zu utopisch und bodenlos“ zu klingen, sagte er, es falle ihm leicht, sich eine Welt vorzustellen, in der KI Vorteile bringt, die von der Beratung über die Heilung von Krankheiten bis hin zur Ankurbelung des Wirtschaftswachstums reichen, und zwar in einer Weise, die Reichen und Armen gleichermaßen zugutekommt. „Wenn wir den Übergang meistern, die Machtdynamiken meistern, das Risiko erfolgreich meistern, gibt es ein allgemeines Potenzial für das Aufblühen der Menschheit auf einem Niveau, wie wir es bisher noch nicht gesehen haben.“

Die KI wirft die älteste aller philosophischen Fragen auf: Was bedeutet es, Mensch zu sein

Sollten sich die Vorhersagen über die Ankunft der AGI als zutreffend erweisen, könnten auch noch weitreichendere Fragen in den Vordergrund rücken. Als ich mit Edward Harcourt in Oxford sprach, merkte er an: „Über Werte und technologischen Wandel nachzudenken ist sehr schwer, weil technologischer Wandel in der Vorschau immer eher wie ein Umsturz wirkt als in der Rückschau – aus dem offensichtlichen Grund, dass wir in der Rückschau vom Standpunkt von Werten aus blicken, die durch den fraglichen Wandel geprägt wurden. Wenn man liest, was die Menschen vor deren Einführung über die Eisenbahnen schrieben, dachten sie, es sei eine absolute Katastrophe. Und es stimmt: Die Eisenbahnen haben eine komplette Lebensweise zerstört. Heute blicken wir zurück und denken: Wo war eigentlich das Problem?“

Auch Gabriel glaubt, dass KI Veränderungen hervorrufen könnte, die noch tiefer gehen als Wirtschaft oder Technologie. Während der wissenschaftlichen Revolution, so stellte er fest, „erlebten die Menschen eine Entzauberung, als enthüllt wurde, wie die Welt in bestimmten Bereichen funktioniert. Aber sie gewannen durch diese Erfahrung auch neue Freiheiten.“ Es werde an uns liegen, sagte er, zu entscheiden, welche Wertveränderungen wir begrüßen und welchen wir uns widersetzen wollen.

An einem Punkt unserer Gespräche bezeichnete sich Gabriel mir gegenüber als „bekennenden Humanisten“: Er ist nicht die Art von Mensch, die sich auf einen Tag freut, an dem superintelligente Maschinen die Menschheit überflüssig machen. Dennoch erkennt er an, dass wir uns auf einige der ältesten und schwierigsten philosophischen Fragen überhaupt zurückgeworfen sehen, während Computer in Aktivitäten und Fähigkeiten vordringen, die wir lange Zeit als die besondere Domäne des Homo sapiens betrachtet haben – Sprache, Kreativität, Humor, Geschmack. So wie Entdeckungen in der Physik, Biologie und Astronomie vergangene Generationen dazu veranlassten, ihr Verständnis darüber, was unsere Spezies auszeichnet, zu revidieren, so könnte uns, so meint er, auch die KI dazu bringen, neu zu überdenken, was es bedeutet, ein Mensch zu sein.