Internes Firmen-ChatGPT DSGVO?

Die Weboberfläche von ChatGPT für Endverbraucher speichert Chatverläufe standardmäßig ab und nutzt diese Daten, um künftige Sprachmodelle zu trainieren. Wenn Mitarbeiter Kundennamen, interne Bilanzen, Quellcode oder sensible Projektdetails in das Eingabefeld kopieren, entsteht ein irreversibler Datenabfluss.

Aus Sicht der DSGVO kann hierbei eine unzulässige Datenübermittlung an ein Drittland vorliegen, sofern kein wirksamer Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO besteht. Zudem fehlt Unternehmen bei der Basisversion in der Praxis die Handhabe, um Löschansprüche von Betroffenen nach Artikel 17 DSGVO in den Trainingsdaten durchzusetzen.

Für den datenschutzkonformen Einsatz gibt es drei praxiserprobte Architekturpfade. Der erste Weg ist die Nutzung von Unternehmensabonnements mit Zero-Data-Retention-Vereinbarungen, bei denen der Anbieter vertraglich zusichert, dass Eingaben weder gespeichert noch für das Modelltraining verwendet werden.

Der zweite und am weitesten verbreitete Pfad für den Mittelstand ist die Anbindung von Modellen über europäische Cloud-Rechenzentren wie Microsoft Azure in Frankfurt am Main oder Paris. Der dritte Weg besteht im Hosting von quelloffenen Modellen auf eigenen Servern im eigenen Firmennetzwerk, was ein hohes Maß an Datensouveränität ermöglicht, aber höheren Rechenaufwand bedeutet.

Sobald ein externes Sprachmodell über eine Schnittstelle angesteuert wird, fungiert der Anbieter in der Regel als Auftragsverarbeiter. Ein formwirksamer Auftragsverarbeitungsvertrag ist üblicherweise vor Inbetriebnahme abzuschließen und muss den Gegenstand, die Dauer sowie Art und Zweck der Verarbeitung exakt regeln.

Da führende Modellanbieter ihren Hauptsitz in den USA haben, greift ergänzend das EU-US Data Privacy Framework. Unternehmen dokumentieren in der Praxis, dass der Dienstleister unter diesem Abkommen zertifiziert ist, oder hinterlegen Standardvertragsklauseln der EU-Kommission inklusive einer dokumentierten Risikofolgenabschätzung.

Ein firmeninternes ChatGPT greift erst dann effektiv unter die Arme, wenn es auf interne Dokumente, Handbücher oder ERP-Daten zugreifen kann. Genau hier lauert jedoch eine erhebliche Datenschutzlücke: Ein gewöhnlicher Chatbot kennt von Natur aus keine Hierarchien und würde jedem Fragesteller jedes Dokument offenlegen.

Eine datenschutzgerechte Architektur erfordert daher eine Zwischenschicht, die Berechtigungen vor jeder Datenabfrage prüft. Ein Mitarbeiter aus dem Lager darf über das interne System keine Gehaltsdaten aus der Buchhaltung abfragen können, selbst wenn diese im selben Systemverbund hinterlegt sind.

Ein reines Firmen-ChatGPT bleibt ein passives Werkzeug. Der Mitarbeiter muss wissen, welche Frage er stellen muss, und die Antwort manuell kopieren und weiterverarbeiten. Ein KI-Assistent wartet ebenfalls auf Zuruf, liefert aber oft nur Textentwürfe ohne tiefen Bezug zu den Prozessen.

Für echte Entlastung sorgt ein KI-Mitarbeiter, der wiederkehrende Aufgaben in der Tiefe übernimmt. Ein solcher digitaler Kollege arbeitet innerhalb des definierten Datenschutzrahmens, prüft selbstständig Eingangsrechnungen, bereitet Angebote vor oder sortiert E-Mails vor — und übergibt an den menschlichen Mitarbeiter, sobald eine Freigabe oder Ausnahmeentscheidung erforderlich ist. Details zu dieser Architektur beschreibt die Übersichtsseite /ki-mitarbeiter.

Technischer Datenschutz scheitert in der Praxis, wenn die Belegschaft nicht über klare Spielregeln verfügt. Unternehmen etablieren hierfür in der Regel eine schriftliche Richtlinie für Künstliche Intelligenz, die verständlich darlegt, welche Werkzeuge genutzt werden dürfen und welche Daten tabu sind.

Die Nutzung privater Accounts für Firmenbelange wird arbeitsrechtlich geregelt und technisch nach Möglichkeit über Webfilter begleitet. Gleichzeitig sorgt eine fundierte Schulung dafür, dass Mitarbeiter nicht aus Unsicherheit auf die Nutzung verzichten, sondern die bereitgestellten Systeme sachgerecht einsetzen.