KI im Unternehmen einführen: Vom Experiment zum produktiven Workflow

KI im Unternehmen einzuführen bedeutet mehr, als ein Sprachmodell auszuwählen oder einen Zugang bereitzustellen. Die entscheidende Frage ist, ob ein konkreter Prozess mit KI verlässlich verbessert werden kann – und wer für Qualität, Daten, Freigaben und laufende Kosten verantwortlich ist. Das betrifft Geschäftsführung, Projekt- und Produktverantwortliche ebenso wie technische Leitung und Fachbereiche. Ein tragfähiger Weg führt vom begrenzten Experiment über einen kontrollierten Pilot in den geregelten Betrieb. Für jede Phase braucht es eigene Abnahmekriterien: Was darf das System tun, wie wird ein Ergebnis geprüft, und wann wird der Prozess gestoppt oder zurückgestellt? Die zentrale Empfehlung lautet: Beginnen Sie mit einem klar abgegrenzten Arbeitsschritt, erfassen Sie den Ausgangszustand und erweitern Sie den Einsatz erst, wenn Qualität, Aufwand und Risiken nachvollziehbar bewertet sind.

Kurz gesagt

Führen Sie KI nicht als Werkzeug ohne Prozess ein, sondern als kontrollierten Bestandteil eines konkreten Workflows. Im Experiment prüfen Sie die grundsätzliche Eignung, im Pilot den Einsatz unter realistischen Bedingungen und im Betrieb Zuständigkeit, Qualität und Kosten. Legen Sie vorab fest, welche Daten verarbeitet werden dürfen, wer Ergebnisse prüft und welche Bedingungen für die Freigabe gelten. Wenn Ergebnisse nicht zuverlässig geprüft oder bei Fehlern sicher aufgefangen werden können, ist der Prozess noch nicht reif für den Produktivbetrieb.

Ausgangslage

In vielen Organisationen starten KI-Vorhaben mit einer leicht zugänglichen Anwendung und einer einzelnen Aufgabe: Texte zusammenfassen, Anfragen klassifizieren, Informationen aus Dokumenten extrahieren oder Entwürfe erstellen. Ein erster Test kann schnell zeigen, ob das Modell grundsätzlich nützlich ist. Er beantwortet aber nicht, ob der gesamte Arbeitsablauf damit besser wird.

Im Alltag kommen weitere Anforderungen hinzu. Eingangsdaten können unvollständig oder uneinheitlich sein. Ergebnisse müssen in bestehende Systeme übernommen werden. Mitarbeitende brauchen eine Möglichkeit, Fehler zu melden und Änderungen freizugeben. Außerdem muss geklärt sein, welche Informationen an welchen Anbieter übermittelt werden dürfen und wie mit den Ergebnissen weitergearbeitet wird.

Darum sollten Sie zwischen einem KI-Experiment und einem KI-Workflow unterscheiden. Ein Experiment bewertet eine Fähigkeit. Ein Workflow verbindet Eingaben, Verarbeitung, Prüfung, Freigabe und Dokumentation zu einem wiederholbaren Prozess. Die Auswahl und Abgrenzung geeigneter Aufgaben wird ausführlicher im Beitrag Prozesse für KI-Automatisierung auswählen behandelt.

Entscheidungskriterien

Bevor Sie eine Anwendung auswählen oder entwickeln lassen, sollten Sie die folgenden Punkte klären.

1. Ist die Aufgabe ausreichend klar abgegrenzt?

Beschreiben Sie den Arbeitsschritt ohne Begriffe wie „KI einsetzen“ oder „Prozess automatisieren“. Zum Beispiel: Aus definierten Dokumenten werden bestimmte Felder extrahiert, die anschließend von einer zuständigen Person geprüft werden. Je klarer Ein- und Ausgabe sind, desto besser lässt sich das Ergebnis bewerten.

Halten Sie auch fest, was ausdrücklich nicht zur Aufgabe gehört. Soll das System Informationen nur vorschlagen, Datensätze ändern oder bereits eine Entscheidung auslösen? Je größer die Wirkung eines Fehlers, desto enger müssen Berechtigungen und Freigaben gefasst werden.

2. Gibt es einen Vergleich mit dem heutigen Ablauf?

Erfassen Sie den aktuellen Prozess, bevor Sie ihn ändern. Dazu gehören die beteiligten Schritte, typische Ausnahmen, notwendige Prüfungen und der Aufwand für die Bearbeitung. Ohne diesen Ausgangszustand können Sie später nicht unterscheiden, ob KI den Prozess verbessert, lediglich Arbeit verlagert oder zusätzliche Kontrollschritte erzeugt.

Bewerten Sie nicht nur die Geschwindigkeit der KI-Antwort. Relevant ist der vollständige Ablauf bis zu einem verwendbaren, geprüften Ergebnis.

3. Sind die Daten für diesen Zweck geeignet?

Prüfen Sie Herkunft, Qualität und Sensibilität der Eingaben. Welche Daten werden verarbeitet? Enthalten sie vertrauliche oder personenbezogene Informationen? Werden Daten an einen externen Dienst übermittelt, und welche vertraglichen und technischen Bedingungen gelten dafür?

Datenschutz- und Compliance-Anforderungen müssen für den konkreten Einsatz geprüft werden; eine allgemeine technische Beschreibung ersetzt keine rechtliche Prüfung im Einzelfall. Legen Sie außerdem fest, welche Daten nicht in den Workflow gehören und wie mit Protokollen, Zwischenergebnissen und Aufbewahrung umgegangen wird.

4. Ist die Ausgabe prüfbar?

Ein plausibel formulierter Text ist nicht automatisch ein korrektes Ergebnis. Definieren Sie, woran ein richtiges Ergebnis zu erkennen ist: Pflichtfelder, erlaubte Werte, Quellenbezug, Format oder fachliche Regeln. Bei strukturierten Ergebnissen können feste Felder und Schema-Prüfungen Fehler sichtbar machen, bevor Daten in ein Folgesystem gelangen. Für weitere Kriterien siehe Strukturierte Ausgaben mit KI und JSON.

Wenn eine Fachperson das Ergebnis nicht zuverlässig kontrollieren kann, braucht der Prozess andere Sicherungen – oder eine andere Lösung.

5. Wer trägt die Verantwortung?

Benennen Sie eine fachlich verantwortliche Person für Inhalt und Abnahme, eine technische Verantwortung für Integration und Betrieb sowie eine zuständige Stelle für Daten- und Risikofragen. In kleineren Vorhaben können Rollen bei wenigen Personen liegen. Die Aufgaben müssen trotzdem ausdrücklich zugeordnet sein.

Klären Sie, wer Änderungen an Prompts, Regeln, Datenquellen oder Modellen freigibt. Ohne diese Zuordnung wird eine spätere Qualitätsabweichung schwer zu untersuchen.

6. Ist der Nutzen den Gesamtaufwand wert?

Kalkulieren Sie nicht nur die Nutzung eines Modells. Zum Aufwand gehören auch Prozessaufnahme, Integration, Datenaufbereitung, Qualitätssicherung, menschliche Prüfung, Dokumentation, Monitoring und laufende Anpassungen. Vergleichen Sie diese Gesamtkosten mit dem heutigen Ablauf und bewerten Sie den Nutzen anhand geprüfter Ergebnisse, nicht anhand der Menge erzeugter Antworten.

Vom Experiment zum Betrieb

Phase 1: Experiment – Eignung prüfen

Wählen Sie eine begrenzte Aufgabe mit überschaubaren Folgen bei Fehlern. Arbeiten Sie zunächst mit geeigneten Testdaten und prüfen Sie mehrere unterschiedliche Fälle: typische Eingaben, unvollständige Daten und bekannte Ausnahmen. Das Ziel ist nicht, eine fertige Automatisierung vorzuführen. Es geht darum, zu erkennen, welche Teile der Aufgabe das Modell übernehmen kann und wo klassische Regeln oder menschliche Entscheidungen nötig bleiben.

Dokumentieren Sie die verwendeten Eingaben, die Modell- beziehungsweise Werkzeugkonfiguration und die Bewertungskriterien. Entscheiden Sie am Ende ausdrücklich: stoppen, weiter untersuchen oder in einen Pilot gehen. Ein positives Einzelergebnis reicht nicht als Abnahme.

Phase 2: Pilot – realistische Bedingungen testen

Im Pilot wird der Workflow mit einem begrenzten Nutzerkreis und einem klaren Umfang erprobt. Die Ergebnisse sollten zunächst parallel zum bestehenden Prozess oder mit einer verbindlichen menschlichen Freigabe entstehen. So lässt sich erkennen, ob die Lösung auch mit realistischen Daten und den tatsächlichen Ausnahmen funktioniert.

Legen Sie vor Beginn fest, welche Fälle in den Pilot gehören und welche ausgeschlossen bleiben. Erfassen Sie Fehlerarten, Korrekturaufwand, Rückfragen und den Aufwand für Prüfung. Prüfen Sie außerdem, ob Mitarbeitende den Ablauf verstehen und wissen, wie sie ein Ergebnis zurückweisen oder eskalieren.

Der Pilot endet mit einer dokumentierten Abnahmeentscheidung. Sie kann lauten: freigeben, mit geänderten Bedingungen erneut testen oder nicht weiterführen. Die Testplanung sollte vorab feststehen; Hinweise dazu finden Sie unter KI-Workflows richtig testen.

Phase 3: Betrieb – kontrolliert freigeben und überwachen

Im Betrieb werden Zuständigkeiten, Zugriffsrechte, Fehlerbehandlung und Änderungen Teil des regulären Prozesses. Definieren Sie, wer den Workflow überwacht, wie ein Ausfall erkannt wird und wie auf einen nicht prüfbaren oder fehlerhaften Output reagiert wird. Für kritische Schritte braucht es einen manuellen Fallback oder eine Möglichkeit, die Verarbeitung anzuhalten.

Änderungen an Modellen, Prompts, Regeln, Datenquellen oder Schnittstellen können das Ergebnis beeinflussen. Behandeln Sie solche Änderungen daher nicht automatisch als Routine. Prüfen Sie, ob eine erneute Freigabe oder ein Regressionstest erforderlich ist, und dokumentieren Sie die Änderung samt Ergebnis.

Ein praktikabler Rahmen dafür ist Know → Change → Prove: zuerst den bestehenden Zustand erfassen, eine Änderung kontrolliert ausführen und anschließend ihre Wirkung belegen. Das Prinzip wird am Beispiel technischer Änderungen in Know → Change → Prove erläutert; für KI gilt dieselbe Logik als Prozessprinzip.

Typische Fehler

• Mit dem Modell statt mit der Aufgabe beginnen. Eine Technologieentscheidung ersetzt keine Prozessanalyse. Klären Sie zuerst, welcher Arbeitsschritt verbessert werden soll.
• Einen gelungenen Einzelfall als Nachweis nehmen. Testen Sie unterschiedliche und schwierige Eingaben nach vorher festgelegten Kriterien.
• Menschliche Prüfung nur informell vorsehen. Bestimmen Sie, wer prüft, was geprüft wird und wie eine Ablehnung den Ablauf verändert.
• Kosten auf die Modellnutzung verkürzen. Integration, Aufsicht, Fehlerkorrektur und Pflege gehören zur Wirtschaftlichkeitsbewertung.
• Den Pilot direkt zum Produktivbetrieb erklären. Ein Pilot muss klare Grenzen und eine Abnahmeentscheidung haben.
• Änderungen nicht nachvollziehbar machen. Halten Sie fest, welche Konfiguration und Datenquellen für ein Ergebnis maßgeblich waren.
• KI dort einsetzen, wo feste Regeln genügen. Für eindeutige, deterministische Schritte ist klassische Softwarelogik oft besser prüfbar. Die Abgrenzung beschreibt KI-Workflow oder klassische Softwarelogik.

Praxisbeispiel

Bei Ting antworten mehrere KI-Anbieter unabhängig voneinander. Die Ergebnisse werden strukturiert mit den Zuständen „approve“, „revise“ oder „reject“ bewertet und nur bei Einstimmigkeit freigegeben. Strukturierte Ausgaben folgen einem Schema; PostgreSQL mit pgvector dient als Gedächtnis.

Das Beispiel zeigt ein mögliches Kontrollmuster: KI-Erzeugung und Freigabe sind getrennte Schritte, und die Freigabebedingung ist im Workflow festgelegt. Es belegt nicht, dass mehrere Modelle für jeden Prozess erforderlich sind oder dass Einstimmigkeit allein ein Ergebnis fachlich korrekt macht. Auch ein solcher Ablauf braucht geeignete Prüfkriterien und eine klare Zuständigkeit. Mehr zum Projekt: Ting.

Empfehlung

• Wenn Sie noch nicht wissen, welcher Arbeitsschritt sich eignet, erfassen Sie den Prozess und vergleichen Sie mögliche Aufgaben nach Datenlage, Fehlerrisiko und Prüfbarkeit. Automatisieren Sie nicht den gesamten Ablauf auf einmal.
• Wenn eine Aufgabe plausibel erscheint, aber Daten- oder Qualitätsfragen offen sind, führen Sie ein begrenztes Experiment durch. Verwenden Sie geeignete Testdaten und entscheiden Sie anhand vorher definierter Kriterien über den nächsten Schritt.
• Wenn der Nutzen erkennbar ist und Ergebnisse fachlich geprüft werden können, starten Sie einen Pilot mit festem Umfang, Verantwortlichen, Fallback und dokumentierter Abnahme.
• Wenn Qualität, Zuständigkeit, Datenschutz, Kosten und Fehlerbehandlung geklärt sind, überführen Sie den Workflow kontrolliert in den Betrieb und überwachen Sie Veränderungen.
• Wenn Ergebnisse nicht verlässlich prüfbar sind oder Fehler erhebliche Folgen hätten, begrenzen Sie den Einsatz auf Vorschläge mit Freigabe oder verzichten Sie auf KI in diesem Prozess.

Checkliste

• Ist der konkrete Arbeitsschritt einschließlich seiner Grenzen beschrieben?
• Sind Ausgangsprozess und Vergleichskriterien dokumentiert?
• Sind Datenarten, Datenquellen und zulässige Verarbeitung geprüft?
• Ist festgelegt, woran ein akzeptables Ergebnis zu erkennen ist?
• Sind fachliche, technische und datenschutzbezogene Zuständigkeiten benannt?
• Gibt es Regeln für Ablehnung, Eskalation und manuelle Weiterbearbeitung?
• Sind die Kriterien für Experiment, Pilot und Produktivfreigabe festgelegt?
• Werden Prüf-, Integrations- und Betriebskosten mitbewertet?
• Sind Änderungen und relevante Ergebnisse nachvollziehbar dokumentiert?
• Gibt es einen Fallback und eine Möglichkeit, den Workflow anzuhalten?

Häufige Fragen

Wann ist ein KI-Experiment bereit für einen Pilot?

Wenn die Aufgabe klar begrenzt ist, die Ergebnisse anhand fachlicher Kriterien geprüft werden können und keine offenen Daten- oder Risikofragen einem Test entgegenstehen. Der Pilotumfang und seine Abnahmekriterien sollten vor dem Start feststehen.

Muss jedes KI-Ergebnis von einem Menschen geprüft werden?

Das hängt von Aufgabe, Fehlerfolgen und Prüfbarkeit ab. Bei folgenreichen Entscheidungen oder noch nicht belegter Qualität ist eine menschliche Freigabe sinnvoll. Wo Ergebnisse später automatisiert weiterverarbeitet werden, müssen technische und fachliche Sicherungen die Risiken abdecken.

Wie lassen sich die Kosten eines KI-Workflows bewerten?

Beziehen Sie neben der Modellnutzung auch Entwicklung, Datenaufbereitung, Integration, Prüfung, Fehlerkorrektur und laufenden Betrieb ein. Vergleichen Sie den vollständigen Aufwand mit dem bisherigen Prozess und bewerten Sie nur Ergebnisse, die tatsächlich verwendbar sind.

Wann sollte ein Unternehmen auf KI verzichten?

Wenn die Aufgabe mit klaren Regeln zuverlässiger gelöst wird, die Eingabedaten nicht geeignet sind oder Ergebnisse nicht verantwortbar geprüft werden können. Ein begrenzter Einsatz als Assistenz kann dennoch sinnvoll sein, wenn die Freigabe bei einer zuständigen Person bleibt.

Weiterführend

• KI-Automatisierung im Unternehmen: Prozesse sicher steuern
• Prozesse für KI-Automatisierung: So treffen Sie die richtige Auswahl
• Human-in-the-loop: Warum gute KI-Workflows Menschen nicht entfernen
• KI-Workflows richtig testen: Wie man Qualität messbar macht

Weiterführende Quellen

Diese offiziellen Dokumentationen und Standards vertiefen die behandelten Themen.

• NIST AI Risk Management Framework
• EU-Verordnung 2016/679 (DSGVO)
• EU-Verordnung 2024/1689 (KI-Verordnung)