Beispiel: Auftragserfassung mit KI – und wo der Mensch entscheidet
Als KI- und Automatisierungsberatung prüfe ich mit Ihnen einen echten Arbeitsvorgang: Welche Routine eignet sich, wo braucht es eine Kontrollgrenze und welches messbare Ziel muss ein Pilot nachweisen?
01
Eingang
E-Mail eingegangen
Kunde · Artikel · Menge · Preisangabe
02
Struktur
Angaben erkannt
Kunde ✓ · Artikel ✓ · Menge ✓ · Preis offen
03
Bestätigung
Daten docken an
CRM · ERP · Vertrag · Verfügbarkeit
04
Arbeitsobjekt
Entwurf entsteht
Vollständig vorbereitet · noch nicht übertragen
05
Kontrollgrenze
Sonderpreis bleibt offen
−12 % außerhalb Standardregel → Mensch bestätigt
06
Systemstatus
Übernahme bestätigt
Verbindliche Aktion erst nach geklärter Grenze
Es bleibt immer derselbe Auftrag. Die Frage ist nur, wie weit die KI ihn allein bearbeiten darf.
SO PRÜFE ICH AUTOMATISIERUNG · STEFFEN FLEMME Aufgabe, Daten, Ausnahme, Entscheidungsrecht und Systemaktion zuerst.
Vor dem ersten autonomen Schritt muss feststehen, wer im Ausnahmefall entscheidet und dafür einsteht.
KI · selbst ausprobieren
Wo muss ein Mensch übernehmen?
Ein Auftrag, sechs Schritte: Sie sehen, wie weit die KI ihn allein bringt – und wo ein Mensch übernimmt, wenn etwas nicht stimmt.
Beispiel: Auftragserfassung mit Freigabe (B)
Ein Auftrag läuft durch sechs Schritte: Eingang, Daten, Regeln, Entwurf, Freigabe, Übernahme. Die KI erledigt die ersten vier. An der Freigabe übernimmt ein Mensch – erst danach folgt die Übernahme ins System.
Fehlt eine Pflichtangabe, stoppt der Auftrag schon beim Eingang: Die KI fordert sie nach und ergänzt keinen Wert. Widersprechen sich Quellen, ist die Freigabe gesperrt, bis der Widerspruch geklärt ist.
Was ich als Erstes prüfen würde
Umfang, Daten, menschliche Grenze, Ausnahme, Systemaktion und Messung werden vor dem Pilot explizit vereinbart. Wartezeit und aktive Bearbeitungszeit bleiben getrennt. Ein schneller Entwurf ist kein Erfolg, wenn Quellen, Ausnahmen oder die Systemübernahme nicht belastbar sind.
Entscheidungshilfe; keine technische Einsatzfreigabe. Keine Aussage zu Datenschutz, Compliance oder rechtlicher Zulässigkeit. Für die interaktive Grenzprobe ist JavaScript erforderlich.
MEINE EINORDNUNG · KI
Bei KI interessiert mich nicht zuerst, welches Modell etwas kann. Mich interessiert, welcher Arbeitsschritt automatisiert werden darf, wo eine Freigabe nötig ist und wann der Mensch übernehmen muss.
FÜR WENWenn Routinearbeit Zeit bindet – aber Kontrolle und Qualität bleiben müssen.
Für Unternehmen im Mittelstand mit wiederkehrenden Vorgängen wie Auftragserfassung, Rechnungseingang, Kundenanfragen oder Berichten.
SO LÄUFT ES ABEinen echten Vorgang prüfen, Kontrollgrenze festlegen, Pilot messbar machen.
15-Minuten-Gespräch, Prozess und Ausnahmen prüfen, Daten und Systeme einordnen, Freigaben festlegen und einen Pilot mit Erfolgskriterien planen. Je nach Anwendungsfall reicht das von wenigen Tagen bis zu wenigen Wochen.
DANACH IN DER HANDEinen bewerteten Pilotkandidaten mit klarer Verantwortung.
Dazu Aufgaben- und Kontrollmodell, Freigabepunkte, Fehler- und Eskalationsweg sowie Kriterien für den produktiven Einsatz.
AUFWANDDer Aufwand richtet sich nach Anwendungsfall und Pilotumfang.
Entscheidend sind Prozess, Datenlage, Systemlandschaft und Kontrollanforderungen. Lizenz-, Implementierungs- und Betriebskosten werden separat betrachtet.
In der Regel 2–3 Arbeitstage, verteilt auf bis zu etwa zwei Wochen. Umfang und Honorar besprechen wir im ersten Gespräch; abgerechnet wird nach Aufwand mit einer schriftlich vereinbarten Obergrenze.
Schwerpunkt Ausnahmefälle. Automatisiert wird der Standard. Geprüft wird, woran die Lösung eine Ausnahme erkennt, wer sie dann entscheidet und wie der Fall weiterläuft. Warum die Ausnahmen den Aufwand bestimmen →
Was KI-Automatisierung wirklich spart
Wir rechnen am echten Vorgang: Welche Arbeit entfällt durch KI, welche Kontrolle kommt hinzu und bleibt unter dem Strich eine Entlastung?
SchemaNettoentlastung · die ganze RechnungGespart ist nur, was nach Kontrolle und Nacharbeit übrig bleibt.
Bearbeitung vorherDerselbe Umfang im selben Zeitraum
100
Entfallende HandarbeitWelche aktive Bearbeitung übernimmt die KI tatsächlich?
−
Verbleibender ZusatzaufwandWie viel Zeit benötigen Prüfung, Fehlerkorrektur und laufende Betreuung?
+
NettoentlastungWas bleibt Ihrem Team für andere Arbeit – bei tragfähiger Qualität?
nutzbare Kapazitätkeine Entlastung: Aufgabe enger zuschneiden oder Pilot beenden
%
%
Schema in Anteilen der Bearbeitungszeit vorher (= 100), keine Messwerte. Im Pilot werden beide Größen am selben Vorgang gemessen.
Vorher und nachher denselben Umfang und Zeitraum vergleichen; Einführungs- und Betriebskosten werden separat bewertet.
VOM ANWENDUNGSFALL ZUM BEGRENZTEN PILOT
Was vor dem Pilot schriftlich feststehen sollte
Das Pilotblatt verbindet Aufgabe, erlaubte Aktionen, Daten, menschliche Freigabe und Messbasis. Im Muster bleibt der Versand einer Kundenantwort bewusst beim Service.
PILOTBLATT / SERVICEANFRAGE
PRÜFSTAND / NOCH NICHT FREIGEGEBEN
Serviceanfragen zur Prüfung vorbereiten
Die Assistenz ordnet eine eingehende Anfrage einem Anliegen zu und erstellt einen Antwortentwurf aus freigegebenen Informationen. Ein Servicemitarbeiter prüft den Vorgang und versendet die Antwort.
MusterPilotblatt · sechs BedingungenDie Assistenz bereitet vor. Verbindlich wird es erst beim Menschen.
Assistenz darf vorbereiten01 · AufgabeAnliegen zuordnen, einen Entwurf vorbereiten.Verbindliche menschliche GrenzeAnfrageQuelle02 · DatenNur aktuelle, freigegebene Quellen und zulässiger Zugriff.Entwurf03 · RechteKeine E-Mail versenden; keine Auftrags-, Bank- oder Preisänderung.Prüfen04 · MenschService prüft Quelle, Sachverhalt und Empfänger.EntscheidenVersenden06 · AbnahmeQualität, Aufwand, Gegenbeispiele und Verantwortung belegen.Kontrollgrenze05 · RückfallwegManuell weiterarbeiten; bei unzulässiger Aktion stoppen.
Fehlt ein Nachweis, bleibt die Ausweitung offen. Freigabe erst nach dokumentierter Prüfung und vereinbarten Kriterien.
Ihre PrüffrageWo endet in Ihrem Anwendungsfall das, was die Assistenz vorbereiten darf?
Auftrag, Kontrollgrenzen und Abnahme im Detail
AUFTRAG UND GRENZE
Geeigneter Standard
Wiederkehrende Fragen zu einem eindeutig zugeordneten Servicevorgang. Aktuelle, freigegebene Wissensquellen und zulässiger Datenzugriff sind Voraussetzung.
Erlaubte Aktion
Anliegen vorschlagen, Quelle anzeigen, Entwurf im Arbeitskorb ablegen. Keine direkte Kunden-E-Mail und keine Änderung an Auftrag, Bankdaten oder Preis.
Menschliche Entscheidung
Service prüft Quelle, Sachverhalt und Empfänger. Fehlende Zuordnung, widersprüchliche Angaben oder Beschwerde gehen in die persönliche Klärung.
Rückfallweg
Die manuelle Bearbeitung bleibt nutzbar. Bei fehlerhaftem Datenzugriff oder einer unerlaubten Aktion wird der Pilot gestoppt und die Ursache vor Fortsetzung geklärt.
WERTNACHWEIS IM SELBEN VORGANG
Bearbeitungszeit vorher mit Vorbereitung, menschlicher Prüfung, Nacharbeit und Ausnahmebehandlung im Pilot vergleichen. Einrichtung, Integration, Lizenz und Betreuung zusätzlich einrechnen. Spart der Entwurf keine nutzbare Kapazität oder steigt die Fehlerlast, wird die Aufgabe enger zugeschnitten oder der Pilot beendet.
Für einen solchen Pilot müssen geeignete Daten, Messzeitraum, Qualitätsgrenzen und Aufwand vereinbart werden. Das Pilotblatt beschreibt den Prüfauftrag; Freigabe und rechtliche Bewertung bleiben davon getrennte Schritte.
KI sicher betreiben: Rechte, Protokoll, Datenschutz, AI Act
Nach dem Pilot prüfe ich mit Ihnen den Betrieb: Zugriffe, Rechte, Protokollierung, menschliche Übernahme und Fehlerwege müssen nachvollziehbar funktionieren.
Regulatorischer Rahmen · AI Act & Datenschutz
Nach Art. 4 AI Act müssen Unternehmen Maßnahmen zur Förderung der KI-Kompetenz ergreifen; ein bestimmtes Kompetenzniveau müssen sie dabei nicht garantieren. Seit 2. August 2026 gelten außerdem Transparenzpflichten für bestimmte KI-Systeme und KI-generierte Inhalte nach Art. 50. Für Hochrisiko-Anwendungen nach Art. 6 Abs. 2 und Anhang III gelten die entsprechenden Anforderungen ab 2. Dezember 2027; für Systeme nach Art. 6 Abs. 1 und Anhang I ab 2. August 2028. Beim AI Act im Mittelstand und beim Datenschutz prüfe ich pro Anwendungsfall mit: Welche Daten werden verarbeitet, welcher Anbieter erhält sie und welche vertragliche Grundlage besteht? Die rechtliche Bewertung bleibt bei Ihrem Datenschutzbeauftragten oder Rechtsberater.
Nur freigegebene Daten, Rechte und Aktionen. Eingaben, Entscheidungen und Übergaben bleiben nachvollziehbar.
02
Mensch am Grenzfall
Bei Unsicherheit oder Systemfehler stoppen, korrigieren oder übernehmen. Verantwortung und Rückfallweg sind benannt.
Betriebliche Kontrolllogik, keine Compliance-Zusage. Die rechtliche Bewertung bleibt beim Datenschutzbeauftragten oder Rechtsberater.BETRIEBSGRENZEWas vor dem produktiven Betrieb geklärt sein muss
Welche Daten dürfen gelesen werden, wie aktuell sind sie und woher kommt der betriebliche Kontext?
BERECHTIGUNGENMüssen geklärt sein
Welche Systeme, Datensätze und Aktionen sind für die KI tatsächlich zulässig?
PROTOKOLLIERUNGMuss definiert sein
Welche Eingaben, Entscheidungen, Aktionen und Übergaben müssen nachvollziehbar bleiben?
MENSCHLICHE ÜBERNAHMEMuss definiert sein
Wer kann stoppen, korrigieren oder übernehmen – und wie schnell?
FEHLER- & RÜCKFALLWEGMuss getestet sein
Was passiert bei unsicherer Antwort, fehlenden Daten, Systemfehler oder Grenzfall?
RISIKO / AI ACTMuss eingeordnet sein
Risikoklasse, erforderliche Kontrollen und Dokumentation werden sachgerecht eingeordnet. Keine pauschale Compliance-Zusage.
RegelSKALIERUNGSENTSCHEIDUNG
Der Nachweis bestimmt den nächsten Schritt.
Was ist im Pilot belegt?
STOPPEN
Kein belastbarer Nutzen, unvertretbares Risiko oder falscher Prozess.
ANPASSEN
Anwendungsfall trägt grundsätzlich, aber Prozess, Daten oder Governance sind noch nicht reif.
PRODUKTIV SETZEN
Freigabekriterien sind erfüllt und der Betrieb ist kontrollierbar.
SKALIEREN
Produktiver Nutzen ist wiederholbar und die Betriebsverantwortung trägt.
Häufige Fragen zur KI- und Automatisierungsberatung
Die wichtigsten Punkte zu Anwendungsfällen, Datenschutz, KI-Agenten, AI Act und Aufwand – bevor Sie einen Pilot starten.
Welche Prozesse eignen sich für KI?
Besonders geeignet sind wiederkehrende Vorgänge mit klaren Regeln und vielen Standardfällen, zum Beispiel Auftragserfassung, Rechnungseingang oder die Sortierung von Anfragen. Prozesse ohne klare Regeln oder Verantwortung eignen sich deutlich schlechter.
Dürfen wir ChatGPT oder Copilot mit Kundendaten nutzen?
Das hängt von Anbieter, Vertragsmodell, Konfiguration und Datenart ab. Ich prüfe mit Ihnen, welche Daten wohin fließen; die rechtliche Freigabe bleibt bei Ihrem Datenschutzbeauftragten oder Rechtsberater.
Was verlangt der AI Act von uns?
Für viele mittelständische Unternehmen sind insbesondere KI-Kompetenz, Transparenz und die saubere Einordnung der eingesetzten Anwendungen relevant. Welche Pflichten konkret gelten, hängt vom jeweiligen System und seiner Nutzung ab; die rechtliche Bewertung bleibt bei Ihrem Datenschutzbeauftragten oder Rechtsberater.
Was passiert, wenn sich der Pilot nicht lohnt?
Dann ist auch das ein belastbares Ergebnis. Die Erfolgskriterien werden vorher festgelegt, sodass ein Pilot beendet werden kann, wenn Nutzen, Qualität oder Risiko nicht stimmen.
Welche Routine soll Ihr Team nicht mehr selbst erledigen?
Bringen Sie einen konkreten Arbeitsvorgang mit. Ein wiederkehrender Fall genügt, um Wert, Ausnahme, Datenkontext, Verantwortung und eine sinnvolle Pilotgrenze gemeinsam zu prüfen.
