Warum viele KI-Projekte in Unternehmen scheitern: LLMs sind keine Unternehmenssoftware

KI für Unternehmen: Warum Sprachmodelle an Grenzen stoßen

Als ChatGPT im November 2022 an den Start ging, löste es eine Welle der Begeisterung aus. Zum ersten Mal erlebten Millionen Menschen KI nicht als abstrakte Zukunftsvision, sondern als praktisches, intuitives Werkzeug – trotz kleinerer Schwächen. Diese Einschätzung war richtig. Die Schlussfolgerung, die viele daraus zogen, war es nicht.

KI funktioniert für Einzelne – aber nicht für Unternehmen

Was für einen Nutzer am Bildschirm hervorragend funktioniert, entpuppt sich in Organisationen oft als nutzlos. Zwei Jahre nach dem Hype, nach Milliardeninvestitionen und unzähligen Pilotprojekten zeigt sich ein ernüchterndes Bild: Generative KI ist exzellent darin, Sprache zu erzeugen. Doch Unternehmen werden nicht von Sprache gesteuert, sondern von Speicher, Kontext, Feedback und Regeln.

Genau hier liegt das Problem. Und deshalb scheitern so viele KI-Initiativen in Unternehmen – trotz hoher Akzeptanz.

Hohe Nutzung, geringe Wirkung: Das Paradox der Unternehmens-KI

Es geht nicht um mangelnde Akzeptanz. Im Gegenteil: Eine vielzitierte MIT-Studie zeigt, dass rund 95 % aller generativen KI-Pilotprojekte in Unternehmen keine messbaren Ergebnisse liefern. Nur etwa 5 % schaffen den Sprung in den Regelbetrieb. Andere Analysen bestätigen dieses Muster: viel Experimentierfreude, wenig tatsächliche Veränderung.

Die Erklärung ist aufschlussreich: Das Problem ist nicht mangelnde Begeisterung oder fehlende Fähigkeiten. Es ist die Tatsache, dass die Tools keine operativen Veränderungen bewirken.

Zwei Realitäten: Schatten-KI und offizielle Projekte

In den meisten Unternehmen existieren heute zwei Welten nebeneinander:

• Mitarbeiter nutzen KI ständig – sei es zum Entwerfen, Zusammenfassen oder Ideensammeln. Die Tools fühlen sich natürlich und effektiv an.
• Offizielle KI-Initiativen scheitern daran, über kontrollierte Pilotphasen hinaus zu skalieren.

Die MIT-Studie beschreibt eine wachsende „Lernlücke“: Einzelne finden schnell Nutzen, doch Organisationen schaffen es nicht, diesen Nutzen in relevante Arbeitsabläufe zu integrieren. Das Ergebnis ist eine Art „Schatten-KI“: Menschen nutzen, was funktioniert, während Unternehmen in Projekte investieren, die scheitern.

„Das ist kein Widerstand gegen Veränderungen. Es ist ein Signal.“

Der fundamentale Fehler: Sprachmodelle als Betriebssystem zu behandeln

Viele Erklärungen für das Scheitern konzentrieren sich auf Ausführungsschwächen: schlechte Daten, unklare Anwendungsfälle, fehlende Schulungen. All das trifft zu – ist aber zweitrangig. Der wahre Kern des Problems ist einfacher und grundlegender:

Große Sprachmodelle (LLMs) sind darauf ausgelegt, Text vorherzusagen. Das ist ihre einzige Kernkompetenz. Alles andere – von logischem Denken bis hin zu Gesprächsführung – sind emergente Eigenschaften dieser Fähigkeit.

Doch Unternehmen funktionieren nicht als Abfolge von Texten. Sie sind dynamische Systeme mit Zustand, Abhängigkeiten, Anreizen und Regeln. Genau hier liegt die Diskrepanz.

LLMs „sehen“ die Welt nicht – sie erzeugen nur überzeugende Texte

Das ist der architektonische Grundfehler der KI: LLMs haben keinen persistenten Speicher. Sie lernen nicht aus realem Feedback, es sei denn, es wird explizit programmiert. Sie erzeugen überzeugende Sprache über die Realität – aber sie agieren nicht innerhalb dieser Realität.

Man kann ein Unternehmen nicht auf Basis von Wortvorhersagen steuern. Das führt zu einem vertrauten Muster:

• Fordert man ein LLM auf: „Steigere meine Verkäufe“ – erhält man eine überzeugende, aber nutzlose Antwort.
• Bittet man um eine „Go-to-Market-Strategie“ – bekommt man einen gut formulierten Text, der keine operativen Schritte enthält.
• Fragt man nach „Teamperformance-Verbesserungen“ – folgt eine Liste von Allgemeinplätzen ohne konkrete Umsetzung.

Die Lösung: KI muss in Unternehmensprozesse eingebettet werden

Die Erkenntnis ist klar: LLMs allein sind keine Unternehmenssoftware. Sie müssen in bestehende Systeme integriert werden, die Speicher, Kontext und Feedback verarbeiten können. Erst dann entfalten sie ihr volles Potenzial.

Unternehmen, die KI erfolgreich einsetzen, tun dies nicht durch isolierte Pilotprojekte, sondern durch tiefe Integration in ihre Arbeitsabläufe. Das erfordert:

• Verknüpfung mit Unternehmensdatenbanken und CRM-Systemen
• Automatisierte Feedbackschleifen, die Lernen ermöglichen
• Klare Regeln und Constraints, die die KI in den richtigen Kontext setzen

KI wird die Arbeitswelt verändern – aber nicht als eigenständiges Werkzeug, sondern als integrierter Bestandteil von Unternehmensprozessen.