Wie stelle ich sicher, dass eine KI keine Firmendaten stiehlt?

Die größte Gefahr für Ihre Firmendaten geht nicht von der KI-Technologie selbst aus, sondern von ihrer unkontrollierten Nutzung in Form öffentlicher Dienste. Wenn ein Mitarbeiter eine Kundenliste in ein frei zugängliches KI-Tool kopiert, um eine Zusammenfassung zu erstellen, werden diese Daten an externe Server in den USA oder anderswo gesendet.

Dort entziehen sie sich Ihrer Kontrolle. Die Nutzungsbedingungen vieler dieser Dienste erlauben dem Anbieter, die eingegebenen Daten zum Training seiner Modelle zu verwenden. Damit werden Ihre internen Informationen Teil eines globalen Datensatzes — was einen Verstoß gegen Geheimhaltungspflichten und die DSGVO darstellen kann.

Sichere KI-Anwendungen funktionieren grundlegend anders. Sie laufen nicht auf einer öffentlichen Webseite, sondern in einer für Sie reservierten, abgeschirmten Umgebung. Die Daten verlassen zu keinem Zeitpunkt den von Ihnen kontrollierten Bereich.

Dies lässt sich auf verschiedene Weisen realisieren. Die KI kann direkt auf Ihren eigenen Servern im Unternehmen (On-Premise) oder in einer exklusiv für Sie gemieteten Private Cloud bei einem deutschen oder europäischen Anbieter betrieben werden. Selbst bei großen Cloud-Plattformen gibt es Möglichkeiten, abgeschottete Bereiche (Virtual Private Cloud) zu schaffen, die den gleichen Zweck erfüllen.

Neben der Technik ist die vertragliche Ausgestaltung entscheidend. Ein seriöser Partner wird mit Ihnen immer einen Auftragsverarbeitungsvertrag (AVV) nach den Vorgaben der DSGVO schließen. Dieses Dokument ist keine Formalität, sondern Ihr wichtigstes Kontrollinstrument.

Der AVV muss exakt festlegen, wo Ihre Daten gespeichert und verarbeitet werden, wer darauf Zugriff hat und welche technischen und organisatorischen Maßnahmen (TOMs) zum Schutz der Daten ergriffen werden. Bestehen Sie auf einem klaren Passus, der die Nutzung Ihrer Daten für jegliche andere Zwecke, insbesondere für das Training von KI-Modellen des Anbieters, kategorisch ausschließt.

Die Existenz von „Schatten-KI“ zeigt vor allem eines: Ihre Mitarbeiter sind motiviert, neue Technologien zu nutzen, um produktiver zu sein. Ein striktes Verbot ohne Alternative führt oft nur dazu, dass die Nutzung im Verborgenen weitergeht und die Risiken unkontrollierbar werden.

Der bessere Weg ist, klare und verständliche Richtlinien für den Umgang mit KI-Tools zu schaffen. Erklären Sie die Risiken öffentlicher Werkzeuge und benennen Sie die erlaubten und unerlaubten Anwendungsfälle. Der entscheidende Schritt ist jedoch, eine sichere, vom Unternehmen freigegebene Alternative anzubieten, die den Bedarf der Mitarbeiter deckt und die Prozesse tatsächlich verbessert.

Ein öffentliches KI-Tool ist ein fremdes Werkzeug, das Sie mit Ihren Daten füttern. Ein KI-Mitarbeiter ist hingegen ein integraler Bestandteil Ihrer eigenen Betriebsabläufe und IT-Infrastruktur. Er wird für eine spezifische Aufgabe in Ihrem Unternehmen konzipiert und implementiert.

Dieser KI-Mitarbeiter arbeitet ausschließlich innerhalb der definierten, sicheren Umgebung auf den für ihn freigegebenen Daten. Er ist kein Chatbot auf einer Webseite, sondern eine spezialisierte Software-Instanz, die zum Beispiel direkt auf Ihr Warenwirtschaftssystem zugreift, ohne dass Daten Ihr Haus verlassen müssen. Die Sicherheit ist hierbei kein Zusatz, sondern Teil des Designs.