Was passiert, wenn der KI-Mitarbeiter Fehler macht?

Ein KI-Mitarbeiter verwechselt keine Termine und vergisst keine E-Mail, dafür macht er andere Fehler. Er kann eine Formulierung falsch verstehen, eine Zahl aus einem unklaren Dokument falsch ablesen oder zwei ähnliche Datensätze verwechseln.

Diese Fehler entstehen meist an den Rändern: bei ungewöhnlichen Anfragen, bei schlecht lesbaren Belegen oder bei Ausnahmen, die im Training nicht vorkamen. Ein Stammkunde, der plötzlich unter einem neuen Firmennamen bestellt, ist so ein Randfall.

Wichtig zu verstehen: Der KI-Mitarbeiter entscheidet in einem gut aufgesetzten System nichts, was Geld oder Kunden kostet, ohne dass ein Mensch freigibt. Ein Fehler im Entwurf ist unangenehm, ein Fehler, der ungeprüft beim Kunden landet, ist das eigentliche Problem.

Freigabestufen legen fest, welche Aufgaben der KI-Mitarbeiter allein erledigt und wo ein Mensch vorher draufschaut. Sie sind kein Nice-to-have, sondern der eigentliche Schutz gegen teure Fehler.

In der Praxis staffelt man das nach Risiko. Eine interne Notiz oder ein Terminvorschlag darf der KI-Mitarbeiter selbstständig erstellen. Ein Angebot mit Preis, eine Rechnung oder eine Antwort an einen Kunden geht dagegen erst nach Freigabe durch einen Mitarbeiter hinaus.

Ein Protokoll zeigt lückenlos, welche Daten der KI-Mitarbeiter wann verwendet und welche Entscheidung er daraus abgeleitet hat. Ohne dieses Protokoll wüsste im Beispiel der Steuerkanzlei niemand, warum die Rechnung auf dem falschen Konto landete.

Mit Protokoll lässt sich der Fehler in wenigen Minuten zurückverfolgen: welcher Beleg, welche Ähnlichkeit, welcher Zeitpunkt. Das ist der entscheidende Unterschied zu einem Mitarbeiter, der sich im Nachhinein nur noch vage erinnert.

Ein Protokoll dient auch dazu, den KI-Mitarbeiter gezielt nachzuschulen. Der Fehler wird als Beispiel eingepflegt, damit die gleiche Verwechslung nicht wieder passiert.

Am ersten Tag der Einführung entscheidet sich, wie gut Sie später mit Fehlern umgehen. Es lohnt sich, das vor dem Start schriftlich festzuhalten, nicht erst, wenn etwas schiefgelaufen ist.

In einem Elektrobetrieb mit 22 Mitarbeitern erstellt der KI-Mitarbeiter Angebote aus eingehenden Anfragen. Ein Kunde fragt nach einer Leitungsverlegung über 40 Meter, der KI-Mitarbeiter liest versehentlich 4 Meter aus der unklaren Handynotiz heraus und schlägt einen viel zu niedrigen Preis vor.

Weil das Angebot in Freigabestufe 2 liegt, sieht der zuständige Meister den Entwurf vor dem Versand. Ihm fällt die Diskrepanz zur Fotoaufnahme sofort auf, er korrigiert die Zahl in einer Minute. Der Kunde bekommt nie das falsche Angebot zu Gesicht.

Ohne diese Freigabestufe wäre das falsche Angebot rausgegangen, und der Betrieb hätte später entweder Verlust gemacht oder eine unangenehme Nachverhandlung führen müssen.

Riskant wird es, wenn Freigabestufen aus Bequemlichkeit übersprungen werden, weil der KI-Mitarbeiter in den ersten Wochen zuverlässig wirkte. Genau dann passieren die teuren Fehler, weil niemand mehr hinschaut.

Ebenso riskant ist ein System ohne Protokoll oder ein Betrieb, der niemanden für die wöchentliche Kontrolle einplant. Wer die Kontrolle abgibt, statt sie zu organisieren, sollte auf einen KI-Mitarbeiter für kritische Aufgaben vorerst verzichten.

Ein kurzes Klarheitsgespräch hilft oft dabei, die passenden Freigabestufen für den eigenen Betrieb realistisch einzuschätzen, bevor überhaupt entwickelt wird.