Risiken KI-Einsatz Mittelstand?

Die Einhaltung der Datenschutz-Grundverordnung (DSGVO) ist eine zentrale Herausforderung. Sobald personenbezogene Daten — von Kunden, Lieferanten oder Mitarbeitern — verarbeitet werden, gelten strenge Regeln. Viele gängige KI-Modelle werden von US-Anbietern betrieben, was die Datenübermittlung in Drittländer zu einem rechtlichen Risiko macht.

Ein entscheidender Schritt zur Risikominimierung ist die Wahl eines Partners, der Serverstandorte in der EU zusichert und einen Auftragsverarbeitungsvertrag (AVV) nach den Vorgaben der DSGVO vorlegt. Zudem muss genau definiert werden, welche Daten die KI sehen darf und welche nicht. Eine KI, die Rechnungen bearbeitet, braucht beispielsweise keinen Zugriff auf Personalakten.

Die Angst vor einem „Fass ohne Boden“ ist bei IT-Projekten berechtigt. Ein KI-Projekt kann erhebliche Anfangsinvestitionen für Analyse, Entwicklung und Integration erfordern. Das eigentliche Risiko liegt aber nicht in der Höhe der Kosten, sondern in einem unklaren oder ausbleibenden Nutzen. Eine Investition ohne messbaren Mehrwert ist immer zu teuer.

Ein seriöses Projekt beginnt daher nie mit der Technik, sondern immer mit einer Prozessanalyse. Welcher Ablauf im Unternehmen bindet die meisten Ressourcen? Wie viele Stunden pro Woche kostet die manuelle Bearbeitung von Anfragen, Bestellungen oder Rechnungen? Erst wenn dieser Wert bekannt ist, lässt sich der potenzielle Nutzen einer Automatisierung beziffern und eine fundierte Entscheidung treffen.

Das größte Risiko für den Erfolg eines KI-Projekts ist oft nicht die Technik, sondern der Mensch. Wenn Mitarbeiter die neue Technologie als Bedrohung für ihren Arbeitsplatz sehen oder fürchten, die Kontrolle zu verlieren, werden sie das System boykottieren — bewusst oder unbewusst. Ohne die Akzeptanz des Teams kann kein KI-Mitarbeiter erfolgreich arbeiten.

Offene Kommunikation von der Geschäftsführung ist hier unerlässlich. Positionieren Sie die KI nicht als Ersatz, sondern als Werkzeug zur Entlastung. Ein KI-Mitarbeiter übernimmt die monotonen, repetitiven Aufgaben, damit sich das menschliche Team auf die komplexen Fälle, die Kundenbetreuung und strategische Aufgaben konzentrieren kann. Die Einbindung der betreffenden Abteilung in die Auswahl und Gestaltung des Prozesses schafft Vertrauen und sorgt dafür, dass die Lösung die realen Probleme löst.

Kein System ist perfekt. Eine KI kann Fehler machen, sei es durch fehlerhafte Trainingsdaten, missverständliche Anweisungen oder unvorhergesehene Ereignisse. Die entscheidende Frage ist, wie das System mit diesen Fehlern umgeht und welche Kontrollmechanismen existieren. Ein System, das im Hintergrund ohne jede Aufsicht agiert, stellt ein unkalkulierbares Geschäftsrisiko dar.

Professionelle KI-Mitarbeiter arbeiten nach dem „Human-in-the-Loop“-Prinzip. Das bedeutet, das System besitzt definierte Schwellenwerte für die eigene Sicherheit. Ist es sich bei einer Entscheidung unsicher — etwa weil eine Rechnungsnummer unleserlich ist oder eine Kundenanfrage mehrdeutig ist —, stoppt es die Verarbeitung und legt den Fall einem menschlichen Mitarbeiter zur Prüfung vor. Die rechtliche Haftung für die Ergebnisse verbleibt in der Regel beim Unternehmen. Die Frage der Herstellerhaftung ist davon getrennt zu betrachten und im Einzelfall zu klären.

Die Einführung einer zentralen KI-Lösung schafft eine Abhängigkeit vom Anbieter. Was passiert, wenn dieser die Preise drastisch erhöht, sein Produkt einstellt oder insolvent wird? Dieses strategische Risiko ist bei geschlossenen Software-Plattformen besonders hoch, da ein Wechsel oft mit einer kompletten Neuimplementierung verbunden ist.

Achten Sie bei der Anbieterauswahl auf offene Schnittstellen und vertragliche Regelungen zur Datenportabilität. Bei Individuallösungen sollte geklärt werden, wem der entwickelte Code gehört und ob eine Weiterentwicklung durch Dritte möglich ist. Das Ziel muss sein, die Kontrolle über die eigenen Prozesse und Daten zu behalten, auch wenn die ausführende Technologie von einem externen Partner stammt.