KI im Unternehmen: Warum so viele Pilotprojekte nie produktiv werden

Einen KI-Prototyp zu bauen, ist inzwischen erstaunlich einfach.

Eine Datei hochladen.

Ein Modell anbinden.

Ein paar Prompts schreiben.

Vielleicht noch einen n8n-Workflow dazwischen.

Nach zwei Tagen steht eine Demo, die im Meeting beeindruckend aussieht.

Dann vergehen drei Monate.

Und die Demo ist immer noch eine Demo.

Dieses Muster sieht man derzeit in vielen Unternehmen.

Das eigentliche Problem bei Unternehmens-KI ist längst nicht mehr der Proof of Concept.

Der schwierige Teil beginnt danach.

Die falsche Definition von „funktioniert“

Ein Pilot wird häufig nach einem sehr einfachen Kriterium bewertet:

„Hat die KI die Aufgabe im Test erledigt?“

Wenn die Antwort ja lautet, gilt das Projekt als Erfolg.

Für einen produktiven Geschäftsprozess ist diese Frage aber viel zu schwach.

Nehmen wir einen KI-Assistenten, der eingehende E-Mails kategorisieren soll.

Im Pilot testet das Team 30 Beispiele.

28 werden richtig erkannt.

Alle sind begeistert.

Jetzt geht das System live und verarbeitet 15.000 Nachrichten pro Monat.

Plötzlich tauchen Dinge auf, die im Pilot niemand getestet hat:

automatische Abwesenheitsnotizen,

weitergeleitete Mailketten,

Anhänge ohne Text,

mehrsprachige Nachrichten,

Spam,

unvollständige Kundendaten,

mehrere Anliegen in einer E-Mail,

und Kunden, die ihre Anfrage vollkommen anders formulieren als erwartet.

Der Prototyp hat funktioniert.

Der Prozess war trotzdem noch nicht produktionsreif.

Genau hier entsteht das sogenannte Pilot Purgatory

Viele KI-Initiativen bleiben in einer Zwischenwelt hängen.

Sie sind zu gut, um sie einfach abzuschalten.

Aber noch nicht zuverlässig genug, um wirklich Verantwortung zu übernehmen.

Also läuft das Projekt weiter.

Mitarbeiter testen.

Management wartet auf Ergebnisse.

Neue Modelle erscheinen.

Prompts werden verändert.

Sechs Monate später gibt es inzwischen zwölf KI-Piloten – aber kaum einen Prozess, der tatsächlich dauerhaft Arbeit abnimmt.

Das Problem ist selten mangelnde Begeisterung.

Meist fehlt ein klarer Übergang vom Experiment zum Betrieb.

Aktuelle Nutzungsdaten zeigen einen interessanten Unterschied

OpenAI veröffentlichte am 12. August 2026 neue Analysen zur KI-Nutzung bei Unternehmenskunden. Dabei wurden sogenannte „Frontier Firms“, also Unternehmen aus den oberen zehn Prozent der Nutzungstiefe, mit typischen Unternehmen verglichen.

Diese Unternehmen erzeugten laut der Analyse im Juni pro aktivem Nutzer rund 8,3-mal so viele Output-Tokens wie typische Firmen. Im Januar lag das Verhältnis noch bei 2,6. Gleichzeitig nutzten Mitarbeiter in stark KI-orientierten Unternehmen häufiger fortgeschrittene Funktionen, die KI mit Unternehmenskontext, Werkzeugen und wiederholbaren Workflows verbinden.

Diese Zahlen stammen von OpenAI und dessen eigener Kundenbasis und sind deshalb kein neutraler Querschnitt der gesamten Wirtschaft.

Der zugrunde liegende Punkt ist trotzdem interessant:

Der Unterschied liegt offenbar nicht nur darin, wer Zugriff auf ein KI-Modell hat.

Sondern darin, wie tief KI in tatsächliche Arbeitsabläufe eingebaut wird.

Ein ChatGPT-Account ist noch keine KI-Strategie

Viele Unternehmen haben inzwischen denselben Zugang zu leistungsfähigen Modellen.

Damit entsteht aber noch kein Wettbewerbsvorteil.

Zwei Unternehmen können ihren Mitarbeitern exakt dasselbe KI-Tool bereitstellen und nach einem Jahr völlig unterschiedliche Resultate sehen.

Unternehmen A nutzt KI zum:

Text umformulieren,

E-Mails zusammenfassen,

Brainstorming,

und gelegentlichen Recherchieren.

Unternehmen B integriert dieselben Modelle in:

Angebotserstellung,

Supportprozesse,

interne Wissenssuche,

Dokumentenverarbeitung,

CRM-Workflows,

und Reporting.

Beide Unternehmen „nutzen KI“.

Operativ sind sie allerdings in vollkommen unterschiedlichen Welten.

Der Sprung von Assistenz zu Ausführung

Genau das ist die entscheidende Entwicklung.

Die erste Phase der Unternehmens-KI bestand größtenteils aus Assistenz.

„Schreibe mir diese Mail besser.“

„Fasse dieses Dokument zusammen.“

„Gib mir Ideen.“

Das spart Zeit.

Die nächste Phase lautet:

„Bearbeite diesen Vorgang.“

Ein Agent liest die Anfrage.

Er sucht Kundendaten.

Er holt zusätzliche Informationen aus einem internen System.

Er bereitet eine Aktion vor.

Ein Mitarbeiter kontrolliert.

Danach wird der Vorgang abgeschlossen.

Hier beginnt echte Prozessautomatisierung.

OpenAI beschreibt in seiner aktuellen Analyse denselben Wechsel als Übergang von Assistance zu Execution. Besonders intensive Nutzer verbinden Agenten häufiger mit Unternehmenskontext, Werkzeugen und wiederholbaren Workflows.

Warum Piloten häufig an der Integration scheitern

In einer Demo besitzt die KI alle Informationen, die sie braucht.

Der Entwickler kopiert sie einfach in den Prompt.

Im echten Prozess liegen diese Informationen verteilt.

Ein Teil im CRM.

Ein Teil im ERP.

Ein Teil in SharePoint.

Ein Teil in einer Datenbank.

Und der Rest leider in einer Excel-Datei auf dem Desktop eines Mitarbeiters.

Jetzt wird das Projekt plötzlich keine reine KI-Aufgabe mehr.

Es wird ein Integrationsprojekt.

APIs müssen angebunden werden.

Berechtigungen müssen stimmen.

Daten müssen eindeutig zugeordnet werden.

Fehlerfälle müssen abgefangen werden.

Genau deshalb ist „Welches Modell verwenden wir?“ bei vielen produktiven KI-Projekten nicht einmal die schwierigste technische Frage.

Prozess vor Prompt

Ein überraschend wirksamer Schritt besteht darin, den heutigen Prozess zunächst ohne KI aufzuschreiben.

Nicht den idealisierten Prozess aus dem Qualitätshandbuch.

Den echten.

Eine Kundenanfrage kommt rein.

Wer öffnet sie?

Was prüft die Person?

Welche Systeme werden geöffnet?

Welche Entscheidung trifft sie?

Was passiert danach?

Wo gibt es Sonderfälle?

Welche Aktionen können rückgängig gemacht werden?

Welche nicht?

Erst wenn dieser Ablauf verstanden ist, sollte entschieden werden, an welcher Stelle ein Sprachmodell tatsächlich sinnvoll ist.

Manchmal lautet das Ergebnis:

nur bei Schritt drei.

Das ist vollkommen in Ordnung.

Produktiv bedeutet auch: Fehler gehören zum Design

Bei klassischer Software versuchen Entwickler, definierte Eingaben mit definiertem Verhalten zu verbinden.

Bei LLM-Systemen existiert zusätzliche Unsicherheit.

Zwei leicht unterschiedliche Formulierungen können unterschiedliche Modellreaktionen erzeugen.

Produktive Systeme müssen deshalb nicht nur den Happy Path beherrschen.

Sie benötigen einen Plan dafür, was passiert, wenn die KI unsicher ist.

Vielleicht wird der Vorgang an einen Mitarbeiter weitergegeben.

Vielleicht darf die KI ausschließlich einen Entwurf erstellen.

Vielleicht muss vor einer Aktion ein bestimmter Confidence-Wert erreicht sein.

Vielleicht gibt es harte Regeln, die außerhalb des Modells geprüft werden.

Das ist nicht das Eingeständnis, dass KI unzuverlässig sei.

Es ist schlicht gute Softwarearchitektur.

Human in the Loop ist kein Scheitern

Unternehmen machen gelegentlich den Fehler, nur eine Vollautomatisierung als Erfolg zu betrachten.

Dabei kann ein Prozess wirtschaftlich extrem interessant sein, selbst wenn am Ende noch ein Mensch auf einen Button klicken muss.

Stellen wir uns einen Vorgang vor, der vorher zehn Minuten dauerte.

Die KI:

liest die Anfrage,

sucht die Informationen,

bereitet die Antwort vor,

füllt die Datenfelder,

und schlägt die nächste Aktion vor.

Ein Mitarbeiter benötigt anschließend 45 Sekunden zur Kontrolle.

Der Prozess ist nicht „vollautonom“.

Aber die Arbeitszeit wurde drastisch reduziert.

Noch wichtiger:

Das Unternehmen kann dabei Daten sammeln.

Welche Fälle korrigieren Mitarbeiter?

Warum?

Bei welchen Vorgängen ist das System zuverlässig?

Mit diesen Daten kann die Automatisierung später gezielt erweitert werden.

Der nächste typische Fehler: Keine Person besitzt den Prozess

Ein KI-Projekt startet häufig in der IT.

Dann betrifft es den Vertrieb.

Der Vertrieb sagt, die IT sei verantwortlich.

Die IT sagt, dass der Vertrieb die fachlichen Regeln definieren muss.

Niemand entscheidet.

Das Projekt bleibt im Pilot.

Für einen produktiven KI-Prozess braucht es deshalb eine klare fachliche Verantwortung.

Jemand muss beantworten können:

Was ist ein korrektes Ergebnis?

Welche Fehler sind akzeptabel?

Welche nicht?

Wann darf die KI selbst handeln?

Wann muss ein Mensch prüfen?

Welche Kennzahl entscheidet darüber, ob das System besser geworden ist?

Ohne diese Verantwortung kann auch das beste Entwicklungsteam nicht wissen, wann das Projekt fertig ist.

Ein guter Pilot testet nicht nur Technologie

Ein sinnvoller Pilot sollte bereits Fragen beantworten, die für den späteren Betrieb relevant sind.

Nicht nur:

Kann das Modell Aufgabe X lösen?

Sondern auch:

Wie häufig gelingt es?

Welche Fehler treten auf?

Wie lange dauert der Vorgang?

Was kostet ein Durchlauf?

Welche Daten benötigt das System?

Welche Schnittstellen fehlen?

Wie sieht der menschliche Fallback aus?

Wie wird Erfolg gemessen?

Dann verändert sich die Funktion eines Pilotprojekts.

Es ist nicht mehr nur eine Demo.

Es wird eine Machbarkeitsprüfung für einen echten Prozess.

Die Produktionsreife beginnt bereits beim ersten Prototyp

Das bedeutet nicht, dass der erste Proof of Concept sofort mit Kubernetes, Hochverfügbarkeit und zehn Monitoring-Dashboards gebaut werden muss.

Aber einige Entscheidungen sollte man früh treffen.

Zum Beispiel:

Welche Daten dürfen an das Modell?

Wie wird der Prozess später authentifiziert?

Welche Aktion darf die KI ausführen?

Wie lässt sich das Ergebnis testen?

Welche Informationen müssen geloggt werden?

Welche Systeme werden später angebunden?

Wenn diese Fragen erst nach drei Monaten auftauchen, muss der Prototyp häufig nahezu komplett neu gebaut werden.

Von einzelnen Power-Usern zu wiederholbaren Workflows

Ein weiterer interessanter Punkt aus OpenAIs aktueller Analyse betrifft die Verteilung von KI-Nutzung im Unternehmen.

Die intensive Nutzung konzentriert sich nicht zwangsläufig nur auf Führungskräfte. In den untersuchten Daten verwendeten Mitarbeiter in früheren Karrierephasen KI teilweise stärker als Führungskräfte. OpenAI empfiehlt Unternehmen deshalb unter anderem, erfolgreiche individuelle Workflows sichtbar zu machen und als gemeinsame Arbeitsweisen zu verbreiten.

Das ist für den Mittelstand eine ziemlich praktische Idee.

Vielleicht braucht es zunächst gar kein unternehmensweites „AI Transformation Program“.

Vielleicht gibt es bereits drei Mitarbeiter, die jeden Tag hervorragende KI-Workflows nutzen.

Die Frage lautet dann:

Welche davon sind wiederholbar?

Welche sparen messbar Zeit?

Welche können technisch standardisiert werden?

Aus einem persönlichen Trick kann so ein Unternehmensprozess entstehen.

So würden wir bei Welp-IT einen Pilot aufsetzen

Wir würden nicht mit zehn Anwendungsfällen gleichzeitig beginnen.

Ein Prozess reicht.

Am besten einer, der:

häufig vorkommt,

wirtschaftlich relevant ist,

über klar definierte Ein- und Ausgaben verfügt,

und keine unnötig hohe Risikoklasse besitzt.

Dann wird der heutige Ablauf verstanden.

Anschließend bauen wir eine kleine funktionsfähige Version.

Aber bereits mit der Frage im Hinterkopf:

Was müsste passieren, damit dieses System morgen echte Vorgänge bearbeiten darf?

Danach folgen reale Testdaten, Schnittstellen, Evals, Logging und ein definierter Fallback.

Erst wenn dieser Prozess stabil läuft, wird erweitert.

Das ist weniger spektakulär als ein Unternehmen mit 30 AI-Piloten.

Aber meistens wesentlich wertvoller.

Der eigentliche KPI: erledigte Arbeit

Die KI-Branche liebt technische Kennzahlen.

Tokens.

Context Window.

Benchmark Scores.

Reasoning.

Tool Calls.

Für Unternehmensprojekte ist am Ende häufig eine andere Kennzahl relevanter:

Wie viel echte Arbeit erledigt das System zuverlässig?

Nicht:

Wie oft wurde ChatGPT geöffnet?

Sondern:

Wie viele Supportfälle wurden vorbereitet?

Wie viele Dokumente verarbeitet?

Wie viele Stunden eingespart?

Wie viele Anfragen ohne manuelle Recherche beantwortet?

Wie viele Fehler entstanden?

Welche Kosten hatte ein Vorgang?

Sobald solche Kennzahlen existieren, verändert sich die Diskussion.

KI wird von einem Innovationsthema zu einem operativen Werkzeug.

Fazit: Ein Pilot ist kein Ziel

Der größte Fehler bei Unternehmens-KI besteht aktuell vielleicht darin, einen erfolgreichen Prototyp mit einem erfolgreichen KI-Projekt zu verwechseln.

Ein Prototyp beweist:

Die Technologie kann es grundsätzlich.

Ein produktives System beweist:

Unser Unternehmen kann sich darauf verlassen.

Dazwischen liegen Integration, Testing, Berechtigungen, Prozessdesign, Verantwortung und meistens deutlich mehr klassische Softwareentwicklung, als man zunächst erwartet.

Genau deshalb sollte die nächste KI-Initiative nicht mit der Frage beginnen:

„Was könnten wir mal ausprobieren?“

Sondern:

„Welchen realen Prozess wollen wir am Ende messbar besser machen?“

Wenn diese Frage klar beantwortet ist, steigt die Chance enorm, dass aus dem nächsten KI-Pilot tatsächlich etwas wird, das auch ein Jahr später noch genutzt wird.

Weiterführende Quelle: OpenAI, „From assistance to execution: How enterprises put AI to work“, veröffentlicht am 12. August 2026. Die Analyse basiert auf Daten aus OpenAIs eigener Unternehmenskundenbasis und sollte entsprechend eingeordnet werden. Enterprise-AI-Analyse von OpenAI