Wer haftet für Fehler der KI im Unternehmen?

In den allermeisten Fällen haftet der Betrieb, der die KI einsetzt, weil er sie in seinem Namen und in seinem Interesse nutzt. Eine KI ist keine eigene Rechtsperson und kann selbst nicht haftbar gemacht werden.

Das gilt unabhängig davon, ob ein Mensch oder ein KI-Mitarbeiter den Fehler verursacht hat. Ein Angebot, eine Rechnung oder eine Kundenaussage gilt rechtlich als Erklärung des Betriebs, sobald sie versendet wurde, ganz gleich wer sie formuliert hat.

Der Anbieter der Software haftet nur dann mit, wenn der Fehler nachweislich aus einem Mangel der Software selbst stammt, etwa einem echten Programmierfehler. Das genau festzustellen ist im Streitfall oft aufwendig, deshalb lohnt sich eine klare vertragliche Regelung im Vorfeld.

Praktisch heißt das: Sie können Aufgaben an einen KI-Mitarbeiter übergeben, die Verantwortung dafür bleibt aber bei Ihnen. Genau wie bei einem neuen Mitarbeiter, den Sie einarbeiten, prüfen und dessen Arbeit Sie stichprobenartig kontrollieren.

Diese Verantwortung lässt sich nicht outsourcen, wohl aber organisieren. Wer klare Freigabestufen einrichtet, also festlegt, welche Aufgaben ein Mensch vor dem Absenden prüft, reduziert das Risiko erheblich, bevor überhaupt ein Streitfall entsteht.

Der Vertrag mit dem Umsetzungspartner legt fest, wofür der Anbieter einsteht und wofür der Betrieb selbst verantwortlich bleibt. Ohne diese Regelung entstehen im Fehlerfall langwierige Diskussionen darüber, wer wofür geradesteht.

Ein fairer Vertrag beschreibt außerdem, wie Fehler gemeldet und behoben werden, und in welcher Frist der Anbieter reagieren muss. Das ist im Alltag oft wichtiger als die reine Haftungsfrage, weil ein schnell behobener Fehler selten teuer wird.

Manche Vorgänge sind aus Haftungssicht so heikel, dass ein Mensch sie immer vor dem Absenden prüfen sollte. Das reduziert nicht nur das rechtliche Risiko, sondern schützt auch die Kundenbeziehung.

In einer Hausverwaltung mit 15 Mitarbeitern erstellt der KI-Mitarbeiter monatlich die Nebenkostenabrechnungen aus den erfassten Belegen. Ein Beleg wird versehentlich doppelt zugeordnet, die Abrechnung für einen Mieter fällt zu hoch aus.

Weil die Abrechnung vor Versand von einer Sachbearbeiterin geprüft wird, fällt der Fehler auf, bevor der Mieter ihn sieht. Ohne diese Prüfung hätte die Hausverwaltung dem Mieter eine falsche Abrechnung geschickt und müsste sie später korrigieren, mit entsprechendem Ärger.

Der Vertrag mit dem Softwareanbieter regelt in diesem Fall, dass ein Programmierfehler in der Zuordnungslogik vom Anbieter behoben wird. Die inhaltliche Prüfung der Abrechnung bleibt aber Aufgabe der Hausverwaltung.

Die Verantwortung des Anbieters endet dort, wo der Betrieb eigene Entscheidungen trifft, zum Beispiel eine Freigabestufe bewusst überspringt oder falsche Ausgangsdaten liefert. Ein Anbieter kann eine Software liefern, die zuverlässig arbeitet, er kann aber nicht dafür einstehen, wie ein Betrieb sie einsetzt.

Deshalb lohnt sich vor dem Start ein offenes Gespräch darüber, was realistisch erwartet werden kann. In einem Klarheitsgespräch lässt sich das für den eigenen Betrieb konkret durchgehen, unabhängig von der Frage, ob und wie man später zusammenarbeitet.

Wichtiger Hinweis: Dieser Beitrag ersetzt keine Rechtsberatung. Für die konkrete Vertragsgestaltung und die Haftungsfragen in Ihrem Betrieb sollten Sie immer einen Anwalt hinzuziehen.