Rechtliche Aspekte KI Mittelstand?

Sobald ein KI-System personenbezogene Daten verarbeitet — zum Beispiel aus Kunden-E-Mails, Rechnungen oder Personalakten — gilt die Datenschutz-Grundverordnung (DSGVO) uneingeschränkt. Als anwendendes Unternehmen sind Sie der „Verantwortliche“ und müssen sicherstellen, dass die Verarbeitung rechtmäßig ist.

Der KI-Anbieter agiert in der Regel als „Auftragsverarbeiter“. Die Zusammenarbeit erfordert einen Auftragsverarbeitungsvertrag (AVV), der die Pflichten beider Seiten klar regelt. Wesentliche Grundsätze wie Datenminimierung, Zweckbindung und Transparenz müssen technisch und organisatorisch gewährleistet sein.

Die Haftungsfrage ist eine der größten Sorgen von Geschäftsführern. Macht ein KI-Mitarbeiter einen Fehler, der zu einem finanziellen Schaden führt, stellt sich die Frage, wer dafür aufkommt: der Entwickler der KI, der Anbieter des Systems oder Ihr Unternehmen als Anwender?

Die Antwort liegt fast immer im Vertrag. In der Regel haften Sie als Unternehmen gegenüber Ihren Kunden und Geschäftspartnern. Im Innenverhältnis zum KI-Anbieter kommt es auf die vertraglich vereinbarte Haftungsverteilung an. Eine klare Regelung der Verantwortlichkeiten und eine ausreichende Versicherung sind daher unerlässlich.

Entscheidend ist zudem die menschliche Kontrolle. Ein gut konzipiertes System sieht vor, dass die KI bei Unsicherheiten oder kritischen Entscheidungen einen menschlichen Mitarbeiter hinzuzieht. Dies minimiert nicht nur Fehler, sondern kann auch das Haftungsrisiko reduzieren.

Mit dem AI Act schafft die EU den weltweit ersten umfassenden Rechtsrahmen für Künstliche Intelligenz. Das Gesetz verfolgt einen risikobasierten Ansatz und teilt KI-Anwendungen in verschiedene Klassen ein, von „minimalem“ bis „inakzeptablem“ Risiko.

Die meisten KI-Systeme zur Prozessautomatisierung im Mittelstand dürften als Systeme mit „begrenztem“ oder „hohem“ Risiko eingestuft werden. Für Hochrisiko-Systeme, etwa im Personalwesen oder bei der Kreditwürdigkeitsprüfung, gelten strenge Anforderungen an Dokumentation, Transparenz und Aufsicht.

Für Sie als Anwender bedeutet das vor allem eine Pflicht zur sorgfältigen Auswahl des Anbieters. Dieser sollte in der Lage sein, nachzuweisen, wie seine KI-Lösung die gesetzlichen Anforderungen berücksichtigt. Der AI Act zielt darauf ab, Vertrauen und Sicherheit zu schaffen, nicht Innovation zu verhindern.

Das Urheberrecht spielt bei KI eine doppelte Rolle: bei den Eingabedaten für das Training und bei den von der KI erstellten Ergebnissen. Professionelle Anbieter von KI-Lösungen müssen sicherstellen, dass sie für das Training ihrer Modelle nur Daten verwenden, an denen sie die entsprechenden Rechte besitzen.

Nach aktueller deutscher Rechtslage können nur von Menschen geschaffene Werke urheberrechtlich geschützt sein. Rein maschinell erstellte Texte, Bilder oder Analysen genießen diesen Schutz nach vorherrschender Meinung in der Regel nicht. Das kann bedeuten, dass Sie die Ergebnisse nutzen können, aber auch nicht verhindern, dass ein Wettbewerber ein sehr ähnliches Ergebnis mit einer anderen KI erzeugt.

Die Einführung von KI-Systemen berührt auch das Arbeitsrecht, insbesondere wenn ein Betriebsrat existiert. Dieser hat weitreichende Informations- und Mitbestimmungsrechte, vor allem, wenn die neue Technologie dazu geeignet ist, die Leistung oder das Verhalten der Mitarbeiter zu überwachen.

Dies ist bei vielen KI-Systemen der Fall, die Arbeitsabläufe protokollieren und auswerten. Eine frühzeitige und transparente Einbindung des Betriebsrats ist daher nicht nur gesetzlich geboten, sondern auch entscheidend für die Akzeptanz im Team. Eine Betriebsvereinbarung kann die Details zum Einsatz der KI verbindlich regeln.

Positionieren Sie die Einführung von KI als Entlastung von Routineaufgaben und nicht als Instrument zur Kontrolle oder zum Personalabbau. Eine offene Kommunikation über die Ziele und Funktionsweisen hilft, Ängste in der Belegschaft abzubauen und die Vorteile für alle sichtbar zu machen.