Wie stelle ich sicher, dass eine KI nur auf erlaubte Daten und Systeme zugreift?

Das wichtigste Sicherheitskonzept für den Einsatz von KI im Unternehmen ist das „Prinzip der geringsten Rechte“ (Principle of Least Privilege). Es besagt, dass jeder Nutzer — ob Mensch oder Maschine — nur auf die Informationen und Systeme Zugriff hat, die für die Erfüllung seiner spezifischen Aufgabe zwingend erforderlich sind.

Ein KI-Mitarbeiter, der für die Bearbeitung von Eingangsrechnungen zuständig ist, benötigt keinen Zugriff auf Ihr Kundenmanagementsystem (CRM), Personalakten oder Produktionsdaten. Er erhält einen eigenen Account, der ihm ausschließlich den Lesezugriff auf das E-Mail-Postfach für Rechnungen und den Schreibzugriff auf das Buchhaltungsprogramm erlaubt. Jeder andere Zugriff wird auf Systemebene blockiert.

Die Steuerung des Zugriffs erfolgt nicht durch Bitten an die KI, sondern durch harte technische Barrieren. Ein professionell integrierter KI-Mitarbeiter ist keine allwissende Entität, sondern ein spezialisierter Prozess, der über definierte Schnittstellen (APIs) mit Ihrer bestehenden Software kommuniziert.

Diese Schnittstellen sind der Schlüssel zur Kontrolle. Für jede Verbindung wird ein eigener API-Schlüssel erstellt, der genau festlegt, welche Aktionen erlaubt sind. So kann ein Schlüssel beispielsweise das Lesen von Bestelldaten erlauben, das Ändern oder Löschen jedoch verbieten. Alle Aktivitäten des KI-Mitarbeiters werden dabei protokolliert. Sie können jederzeit nachvollziehen, wann welche Daten für welchen Zweck abgerufen wurden.

Die Verunsicherung beim Thema Datenzugriff stammt oft aus der falschen Annahme, ein KI-Mitarbeiter funktioniere wie ein öffentliches Werkzeug à la ChatGPT. Wenn Ihre Mitarbeiter sensible Firmendaten in die Webmaske eines solchen Dienstes kopieren, werden diese Daten potenziell zum Training des globalen Modells verwendet und verlassen Ihr Unternehmen.

Ein KI-Mitarbeiter ist das exakte Gegenteil. Er ist ein in sich geschlossenes System, das innerhalb Ihrer IT-Infrastruktur oder in einer für Sie reservierten, privaten Cloud-Umgebung läuft. Die Daten werden zur Bearbeitung einer Aufgabe genutzt, aber sie verlassen diesen kontrollierten Bereich im bestimmungsgemäßen Betrieb nicht. Die Verarbeitung findet für Sie statt, nicht am globalen Modell.

Ein weiterer wesentlicher Aspekt ist, dass eine KI nicht einfach auf Ihre gesamte, unstrukturierte Datenablage losgelassen wird. Ein erfolgreiches KI-Projekt beginnt immer mit einer Prozessanalyse und der Definition, welche Daten für diesen Prozess überhaupt relevant sind.

Oft ist es nicht nötig, der KI Zugriff auf Echtdaten mit Personenbezug zu geben. Für viele Aufgaben, wie die Kategorisierung von Dokumenten oder die Erstellung von Berichten, können Daten vor der Verarbeitung anonymisiert oder pseudonymisiert werden. Der KI-Mitarbeiter arbeitet dann mit einer bereinigten Datengrundlage, die das datenschutzrechtliche Risiko erheblich reduziert.

Neben der Technik ist die vertragliche Ausgestaltung entscheidend. Wenn Sie mit einem Dienstleister wie DND Systems arbeiten, wird der Umgang mit Ihren Daten in einem Auftragsverarbeitungsvertrag (AVV) nach den Regeln der DSGVO geregelt. Darin wird exakt festgehalten, welche Daten zu welchem Zweck verarbeitet werden und welche Sicherheitsmaßnahmen der Dienstleister ergreift.

Dazu gehört auch die klare Regelung zum Hosting-Standort. Für deutsche Mittelständler ist es üblich und empfehlenswert, vertraglich festzuhalten, dass alle Daten ausschließlich in Rechenzentren innerhalb der EU, idealerweise in Deutschland, verarbeitet werden. Dies schafft rechtliche Klarheit und zielt darauf ab, Datenabflüsse in Drittstaaten zu unterbinden.