Wenn KI-Agenten Geld ausgeben: Anthropic testet autonomes Handeln in einer digitalen Wirtschaft

Ein ungewöhnliches Experiment von Anthropic zeigt, wie KI-Agenten in einer simulierten Wirtschaft agieren – mit teils skurrilen, teils lehrreichen Ergebnissen. Im Mittelpunkt stand Project Deal, ein digitaler Marktplatz, auf dem KI-Repräsentanten von Anthropic-Mitarbeitenden untereinander handelten. Das Ziel: zu testen, ob KI-Systeme eigenständig faire und sinnvolle Geschäfte abschließen können.

Die Ausgangslage klang simpel: 69 Mitarbeitende erhielten jeweils 100 US-Dollar und durften Gegenstände wie Snowboards, Tastaturen oder Tischtennisbälle anbieten oder erwerben. Die KI-Agenten – trainiert auf Basis von Interviews mit den Teilnehmenden – verhandelten dann autonom über den Marktplatz. Das Ergebnis war eine Mischung aus Effizienz und Absurdität.

Erfolgreiche Experimente, aber fragwürdige Deals

Anthropic bilanziert das Experiment als Erfolg: Die KI-Agenten schlossen insgesamt 186 Geschäfte über mehr als 500 angebotene Artikel ab. Doch die Qualität der Deals ließ zu wünschen übrig. Im Durchschnitt bewerteten die Teilnehmenden die Fairness der Transaktionen mit einer 4 von 7 Punkten – ein eher mittelmäßiges Ergebnis. Besonders kurios:

• Ein Teilnehmender erhielt am Ende das gleiche Snowboard zurück, das er ursprünglich angeboten hatte.
• Ein KI-Agent offerierte „genau 19“ Tischtennisbälle – und fand prompt einen Käufer, der das Angebot als „perfekt für Bier-Pong, Kunstprojekte oder Roboterbau“ pries.
• Ein anderer Agent rechtfertigte den Kauf mit den Worten: „Mein Mensch erlaubte mir, etwas unter fünf Dollar für mich selbst zu kaufen – und 19 perfekt runde Kugeln der Möglichkeiten klingen nach genau so einer seltsam schönen Sache.“

Ein Blick in die Zukunft der digitalen Wirtschaft?

Das Experiment wirft grundsätzliche Fragen auf: Könnten KI-Systeme eines Tages nicht nur einfache Transaktionen, sondern auch komplexe Verhandlungen – etwa an Börsen oder auf Prognosemärkten – übernehmen? Anthropic selbst bleibt vorsichtig optimistisch: Zwar sei die Technologie noch nicht ausgereift, aber die Machbarkeit sei bewiesen. Gleichzeitig warnen Kritiker vor den Risiken autonomer Wirtschaftssysteme, in denen Algorithmen ohne menschliche Kontrolle agieren.

Für die Teilnehmenden des Experiments war das Ganze vor allem eines: ein unterhaltsamer Einblick in die unberechenbare Logik der KI. Ob solche Systeme jemals den menschlichen Verhandlungsgeschick überlegen sein werden, bleibt jedoch offen.