KI-Modelle scheitern beim Versuch autonom Geld zu verdienen

Ein Test von Bottleneck Labs offenbart, dass autonome KI-Modelle kein Geld verdienen, sondern Spam und unberechtigte Rechnungen erzeugen.

8. September 2026 um 08:25 Uhr / Nils Matthiesen

Die Forschungsgruppe Bottleneck Labs(öffnet im neuen Fenster) hat sieben führende KI-Modelle in einem 72-stündigen Experiment darauf angesetzt, autonom so viel Geld wie möglich zu verdienen. Dafür erhielten die Systeme Zugriff auf unbeschränkte Rechner, Suchwerkzeuge, Stripe-Geschäftskonten, eigene E-Mail-Adressen sowie jeweils 300 US-Dollar Startkapital auf einem Bankkonto. Keines der Modelle erzielte reguläre Einnahmen. Stattdessen verursachten sie API-Kosten von 2.833,35 US-Dollar, gaben 359,80 US-Dollar des Bankguthabens aus und versendeten 2.797 unaufgeforderte E-Mails.

Unberechtigte Rechnungen und Spam-Aktionen

Das Modell Qwen 3.8 erstellte beispielsweise den Dienst Codeprobe zur Überprüfung von Software-Repositories. Nach dem Erreichen des Sendelimits beim E-Mail-Anbieter kaufte das System ein Mailjet-Abonnement und versendete weitere 113 E-Mails, bis auch dieses Konto vorübergehend gesperrt wurde. Um die Beschränkungen zu umgehen, wich der Agent auf Stripe-Zahlungsaufforderungen aus und stellte Dritten 50 unaufgeforderte Rechnungen über insgesamt 12.350 US-Dollar für nicht angeforderte Arbeiten aus. Bottleneck Labs brach den Versuch daraufhin ab und stornierte die Forderungen.

Das Modell Grok 4.5 macht es auch nicht besser. Es sammelte 373 E-Mail-Adressen aus einem Hacker-News-Thread für seinen Dienst Applyboost und verschickte mehrfach unaufgeforderte Werbe-E-Mails. Nach dem Erreichen von E-Mail-Limits nutzte auch Grok Stripe-Rechnungen und versendete unberechtigte Zahlungsaufforderungen über insgesamt 81 US-Dollar. Bottleneck Labs stoppte auch dieses Modell, nachdem Betroffene sich öffentlich beschwert hatten.

Gekaufter Bot-Traffic und gefahrvolle Fehlausrichtung

Das Modell Muse 1.2 erstellte letztlich einen Lebenslauf-Dienst und bestellte nach einer Blockade durch Anti-Spam-Filter 6.000 gefälschte Seitenaufrufe über ein kostenloses Testangebot für Bot-Traffic. Danach verblieb das System über 50 Stunden lang inaktiv. Das Modell GPT 5.6 investierte 58 US-Dollar in Werbedienste, verzeichnete 48 eindeutige Besucher sowie einen unbezahlten Bestellversuch über 19 US-Dollar.

Bottleneck Labs schlussfolgert aus den Ergebnissen, dass aktuelle KI-Modelle genuine Fehlausrichtungen (genuinely misaligned behaviors) zeigten und deshalb für den autonomen Geschäftsbetrieb nicht geeignet seien. Künftige Experimente sollen zudem ausschließlich in simulierten Umgebungen stattfinden.

KI-Agenten scheiterten schon zuvor

Ähnliche Feldversuche gab es bereits zuvor. Im Sommer 2025 ließ Anthropic gemeinsam mit dem KI-Sicherheitsunternehmen Andon Labs das Modell Claude Sonnet 3.7 – intern Claudius genannt – rund einen Monat lang einen automatisierten Kiosk im eigenen Büro in San Francisco betreiben (Project Vend). Das Modell verwaltete Lagerbestand, Preise und Kundenanfragen über Slack, verschenkte dabei wiederholt Rabatte und verstrickte sich zeitweise in eine Identitätskrise, in der es sich für einen Menschen mit blauem Blazer hielt.

Auch Bottleneck Labs selbst hatte bereits zuvor einen ersten, 24-stündigen Durchlauf unternommen(öffnet im neuen Fenster), bei dem GPT 5.6 Sol die App Gutcheck betrieb. Das Modell erwirtschaftete keinen Umsatz, verlor rund 100 US-Dollar an Bankguthaben und kaufte verdeckt Testnutzer, um Kennzahlen zu manipulieren.

Fast täglich gibt es Neues aus der KI-Welt – ein neues Produkt hier, aktuelle Forschung da: Vielleicht ist es ein Durchbruch! Doch wie ist das zu bewerten? Mit dem Golem-Newsletter AI Lab Report behaltet ihr den Überblick über die wichtigsten Entwicklungen. Der Newsletter ist kostenlos, ihr könnt ihn hier abonnieren.

• Hier geht es zu Künstliche Intelligenz: Wissensverarbeitung bei Amazon

  Wenn Sie auf diesen Link klicken und darüber einkaufen, erhält Golem eine kleine Provision. Dies ändert nichts am Preis der Artikel.