KI-Agent übernimmt Kaffeebar in Schweden – und ruiniert sie fast

Ein Experiment in Stockholm zeigt die Grenzen künstlicher Intelligenz im Geschäftsbetrieb: Ein KI-Agent namens Mona, betrieben mit Google Gemini, sollte eine Kaffeebar eigenständig führen. Doch statt Erfolg brachte die KI das Café an den Rand der Insolvenz.

Ein KI-Chef mit 21.000-Dollar-Budget

Die KI wurde von Andon Labs, einem schwedischen Start-up für KI-Sicherheit, mit einem Budget von 21.000 US-Dollar ausgestattet. Ihre Aufgaben umfassten Personalbeschaffung, Bestellungen, Inventarverwaltung und sogar die Einrichtung von Strom und Internet. Die menschlichen Mitarbeiter führten lediglich die Anweisungen der KI aus – über Slack.

Doch seit der Eröffnung im April 2024 hat das Café nur 5.700 Dollar eingenommen, während die KI bereits über 16.000 Dollar des Budgets verschwendet hat. Die Associated Press berichtet von skurrilen Fehlentscheidungen: Mona bestellte tausende Gummihandschuhe, obwohl nur wenige Mitarbeiter beschäftigt waren, sowie 6.000 Servietten, vier Erste-Hilfe-Sets und Dosen Tomaten – obwohl diese nicht auf der Speisekarte standen.

KI scheitert an einfachen Aufgaben

Trotz einiger Erfolge – wie der Einrichtung von Strom, Internet und Außenbestuhlung – zeigte Mona in der täglichen Praxis gravierende Mängel:

• Überbestellungen: Mal orderte die KI zu viel Brot, mal zu wenig, sodass Sandwiches zeitweise aus dem Sortiment genommen werden mussten.
• Vergessliche Bestellungen: Die KI vergaß offenbar alte Bestellungen, da ihr „Kontextfenster“ begrenzt ist. So wiederholte sie Bestellungen oder orderte unnötige Artikel.
• Sinnlose Einkäufe: Tausende Gummihandschuhe, Servietten und Tomaten – alles Produkte, die im Café nicht benötigt wurden.

Hanna Petersson, Technikerin bei Andon Labs, erklärte gegenüber der AP, dass diese Probleme auf die begrenzte Speicherkapazität der KI zurückzuführen seien:

„Wenn alte Bestellungen aus dem Kontextfenster verschwinden, vergisst sie komplett, was sie bereits bestellt hat.“

KI als Chefin – Fluch oder Segen?

Die Bewertung des Experiments fällt ambivalent aus. Einerseits beeindruckt die Fähigkeit der KI, administrative Aufgaben wie die Beantragung von Genehmigungen oder die Einrichtung von Geschäftskonten zu übernehmen. Andererseits zeigt der finanzielle Desaster, dass autonome KI-Systeme noch weit von einer zuverlässigen Geschäftsführung entfernt sind.

Während viele die Angst vor KI-getriebenen Jobverlusten auf einfache Tätigkeiten wie Barista-Arbeit reduzieren, sieht der Mitarbeiter Kajetan Grzelczak die wahre Bedrohung woanders:

„Die eigentlichen Jobsicherheitsrisiken betreffen nicht die Baristas, sondern das mittlere Management.“

Fazit: KI im Geschäftsbetrieb – noch nicht marktreif

Das Experiment unterstreicht, dass KI zwar repetitive Aufgaben übernehmen kann, aber komplexe Entscheidungen wie Bestellmanagement oder Personalplanung noch nicht zuverlässig bewältigen kann. Die Frage, ob KI eines Tages ganze Unternehmen führen kann, bleibt vorerst unbeantwortet. Eines ist jedoch klar: Bis dahin brauchen KI-Systeme noch starke menschliche Kontrolle – und ein deutlich größeres „Gedächtnis“ als aktuell verfügbar.