KI im Arbeitsrecht – Überblick & Update - Küttner Rechtsanwälte

Der Einsatz von Künstlicher Intelligenz (KI) wie ChatGPT, Microsoft Copilot und ähnlichen Anwendungen in der Arbeitswelt ist zwar bereits seit einiger Zeit ein viel diskutiertes Thema, doch bleibt es auch weiterhin dynamisch.

Geschrieben von

Lisa-Lorraine Christ, LL.M.

(Expertenteam Digital New Work und Datenschutz )

Ein Beispiel hierfür ist die erste Entscheidung des Arbeitsgerichts Hamburg im Januar 2024 zur Mitbestimmung des Betriebsrats bei der Implementierung von ChatGPT und anderen KI-Systemen. Ebenso wurde mittlerweile eine Einigung zum Inhalt der lange diskutierten KI-Verordnung erzielt. Die Risiken der Nutzung von KI-Systemen sind immer wieder Thema der arbeitsrechtlichen Beratung und in der Presse wird von Fällen der Diskriminierung durch KI-Anwendungen berichtet. Dies bietet Anlass, die arbeitsrechtlichen Aspekte und aktuellen Entwicklungen erneut zu beleuchten. Wir liefern Antworten auf einige der wichtigsten rechtlichen Fragen.

I.

Nutzung von KI-Systemen im Unternehmen

1. Ist es den Beschäftigten gestattet, ChatGPT & Co. eigenständig zur Erledigung ihrer Arbeitsaufgaben zu verwenden?

Ja! Zwar haben Beschäftigte ihre Arbeitsleistung persönlich zu erbringen. Die Verwendung von KI-Anwendungen steht dem jedoch nicht entgegen, da es sich lediglich – zumindest nach aktuellem Stand – um ein Arbeitsmittel handelt, vergleichbar mit Suchmaschinen oder Übersetzungstools. Dies gilt jedenfalls dann, wenn die Nutzung nicht untersagt bzw. besonders geregelt ist.

2. Ist es dem Arbeitgeber möglich die Nutzung von KI-Anwendungen zur Erbringung der Arbeitsleistung anzuordnen oder zu untersagen?

Ja! Durch sein Weisungsrecht hat der Arbeitgeber die Befugnis, die Verwendung von KI-Systemen wie ChatGPT oder anderen Anwendungen im Unternehmen zu erlauben oder auch zu verbieten.

3. Was sind zu berücksichtigende Risiken?

Bei der Nutzung von KI erfolgt eine fortlaufende Bereitstellung von Datensätzen, aus denen die KI lernt, Zusammenhänge herstellt und Schlussfolgerungen zieht. Dies birgt das Risiko, dass sensible Informationen und Geschäftsgeheimnisse durch Beschäftigte schnell an das KI-System weitergegeben und durch dieses verarbeitet werden. Dadurch können rasch datenschutzrechtliche und urheberrechtliche Herausforderungen sowie das Risiko der Offenlegung von Geschäftsgeheimnissen entstehen. Eine ausführliche Besprechung des Themas KI & Datenschutz finden sie in unserem Blog.

Praxishinweis:

Insbesondere mit Blick darauf, dass viele KI-Anwendungen wie z.B. deepL oder ChatGPT frei zugänglich sind und zu erwarten ist, dass Beschäftigte hierauf zurückgreifen, sollten Unternehmen Richtlinien zur Nutzung dieser Systeme aufstellen und über die Risiken aufklären. Diese Richtlinien sollten, die vom Arbeitgeber genehmigten KI-Systeme benennen und festlegen, für welche Arbeitsbereiche die Nutzung von KI-Anwendungen gestattet ist. Es ist entscheidend, die Belegschaft für die Frage zu sensibilisieren, mit welchen Daten das KI-System "geprompted" werden darf. Neben der Identifizierung sensibler Bereiche (keine personenbezogenen Daten, Anonymisierung, keine Geschäftsgeheimnisse usw.) kann eine ergänzende Schulung oder ein Screencast sinnvoll sein, um praxisnahe Risiken aufzuzeigen. Ein weiterer wichtiger Punkt betrifft die Überprüfung der Ergebnisse der KI. Diese sollten von den Beschäftigten kritisch geprüft werden, während gleichzeitig die Nutzung von KI transparent kommuniziert wird.

II.

KI im Recruiting – Diskriminierungsgefahr erkennen und begegnen

1. Einsatzmöglichkeiten von KI im Recruiting

Auch in der Personalarbeit erfreut sich der Einsatz von KI-Anwendungen großer Beliebtheit. Insbesondere im Recruiting wird KI gerne zur Unterstützung hinzugezogen. Mögliche und beliebte Einsatzfelder von KI-Anwendung sind hier zum Beispiel:

Unterstützung bei der Bewerberauswahl (People-Analytics-Anwendungen)
Social Recruiting (= soziale Medien wie z.B. LinkedIn oder Xing auf Talente scannen)
(Erste) Bewerbungsgespräche durch Chatbots
Assessment Tools

2. Einer der größten Stolpersteine: Die Diskriminierungsgefahr

Im Unterschied zum Menschen wird KI die Fähigkeit zugeschrieben, ohne Emotionen zu handeln und ausschließlich auf der Grundlage von Fakten zu entscheiden. Allerdings trifft dies nur zu, wenn der zugrunde liegende Algorithmus in seiner Struktur und Funktionsweise nicht diskriminierend ist. In dem Zusammenhang macht es Sinn, sich kurz noch einmal vor Augen zu führen, was überhaupt unter KI verstanden wird:

Der Begriff „KI“ bezeichnet allgemein Anwendungen, die mit menschenähnlicher Intelligenz auf Basis von Algorithmen und Programmierungen konkrete Aufgaben lösen. Durch neuronale Netze, die das menschliche Gehirn imitieren, ist KI fähig, sich selbst weiterzuentwickeln und zu optimieren, aus Fehlern zu lernen und eigenständige Entscheidungen zu treffen.

Für die Anwendung von KI im Recruiting sind dabei zwei wichtige Aspekte mitzunehmen:

Selbstlernende KI neigt zur Verstärkung bestehender Strukturen
Unzureichende oder fehlerhafte Daten können zu diskriminierenden Entscheidungen führen

Daher kann es zu diskriminierenden Ergebnissen kommen, wenn die zugrunde liegenden Daten selbst diskriminierende Inhalte enthalten, da Algorithmen mit der Bildung von Gruppenwahrscheinlichkeiten und -zuordnungen arbeiten.

Wie schnell bei Anwendung von KI-Systemen ein diskriminierender Effekt eintreten kann, zeigen zahlreiche Praxisfälle. So wurde etwa im Januar 2024 in Österreich der „Berufsinfomat“ vorgestellt, ein KI-Chatbot basierend auf ChatGPT, der Arbeitssuchende bei der Jobsuche unterstützen sollte. Bald darauf stellte sich laut mehrerer Presseberichte heraus, dass der Chatbot Vorurteile bei Jobvorschlägen reproduzierte. Er neigte dazu, Frauen eher Jobs im Handel, Verkauf, Büro oder in der Gesundheits- und Schönheitspflege vorzuschlagen, während Männer eher im IT-Bereich suchen sollten.

KI ist also keineswegs „diskriminierungsfrei“. Die Anwendungen sind immer nur so gut, wie ihre Ausgangsdaten.

3. Arbeitsrechtliche Konsequenzen einer Diskriminierung

Diskriminierende Ergebnisse sind nicht nur unerwünscht, sondern können auch erhebliche arbeitsrechtliche Konsequenzen nach sich ziehen. Möglicherweise können Entschädigungs- und/oder Schadensersatzansprüche nach dem Allgemeinen Gleichbehandlungsgesetz (AGG) geltend gemacht werden. Zu berücksichtigen ist dabei, dass für eine Diskriminierung im Sinne des AGG bereits ein Indizienbeweis seitens der Bewerber ausreichend ist, und der Arbeitgeber sich sodann durch Vollbeweis entlasten muss. Problem ist hierbei, dass der Arbeitgeber regelmäßig keine genaue Kenntnis des KI-Algorithmus hat (sog. Blackbox Phänomen). Ohne diese Kenntnis der Entscheidungsfindung der KI ist die Beweisführung kaum möglich.

Praxishinweis:

Es ist von entscheidender Bedeutung sicherzustellen, dass sowohl die Programmierung als auch die verwendeten Daten frei von jeglicher Form von (indirekter) Diskriminierung sind und aktiv Maßnahmen dagegen ergriffen werden. Daher sollte Folgendes berücksichtigt werden:

KI nicht mit voreingenommenen Daten trainieren
KI nicht mit vergangenen Erfolgsfaktoren trainieren
Training der KI mit idealen Indikatoren
Erstellung einer unternehmensinternen Richtlinie zur Nutzung von KI
Kontrolle vor Launch des Systems & dauerhafte Kontrollsysteme implementieren

III.

Mitbestimmung des Betriebsrats

Bei Einführung und Nutzung von KI-Systemen in einem Unternehmen sind auch potenzielle Mitbestimmungs- und Beteiligungsrechte des Betriebsrats zu beachten. Im Januar 2024 erging eine erste Entscheidung des Arbeitsgerichts Hamburg (ArbG Hamburg, 16.01.2024, 24 BVGa 1/24) zu diesem Thema, die hier ebenfalls eingeordnet werden soll. Im Einzelnen:

Vor der Implementierung von KI ist es gemäß § 90 Abs. 1 Nr. 3 BetrVG erforderlich, den Betriebsrat zu informieren und den Einsatz mit ihm zu besprechen.
Ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG kommt regelmäßig in Betracht, wenn KI geeignet ist, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen. Das Arbeitsgericht Hamburg entschied hierzu, dass der freiwillige Einsatz von ChatGPT und vergleichbarer KI-Tools über Privataccounts der Arbeitnehmer nicht mitbestimmungspflichtig nach § 87 Abs. 1 Nr. 6 BetrVG sei. Mangels Zugriffes auf die Nutzerdaten komme keine Verhaltens- und Leistungskontrolle durch den Arbeitgeber in Betracht. Zu beachten ist jedoch, dass das Arbeitsgericht hier eine spezifische Fallgestaltung in den Blick genommen hat. Erfolgt die Nutzung über Unternehmensaccounts ist regelmäßig ein entsprechendes Mitbestimmungsrecht zu erwarten.
Die Implementierung neuer Software kann Fragen zur Gesundheit im Hinblick auf psychische Belastungen aufwerfen und eine erforderliche Gefährdungsbeurteilung gemäß § 3 der Betriebssicherheitsverordnung auslösen, wodurch ein Mitbestimmungsrecht gemäß § 87 Absatz 1 Nr. 7 des BetrVG entstehen kann. Ob ein solches in Betracht kommt, wird maßgeblich von der Ausgestaltung der KI-Anwendung im Einzelfall abhängen. Das Arbeitsgericht Hamburg hat in seiner o.g. Entscheidung bei dem Einsatz von ChatGPT keine Gefährdung gesehen und ein solches Mitbestimmungsrecht abgelehnt. Unternehmen sind gut beraten, diese Themen in einer separaten (Rahmen-)Betriebsvereinbarung zu regeln und den unmittelbaren Konnex mit einzelnen IT-Systemen idealerweise zu vermeiden.
Weiter hat der Betriebsrat nach § 95 II a BetrVG das Recht mitzubestimmen, wenn KI-Systeme zur Aufstellung von Richtlinien über die personelle Auswahl bei Einstellungen, Versetzungen, Umgruppierungen und Kündigungen genutzt werden.
Der Betriebsrat hat nach § 80 Abs. 3 S. 2 BetrVG die Möglichkeit der Hinzuziehung eines Sachverständigen bei der Einführung und Nutzung von KI.

IV.

KI-Verordnung: Aus- und Überblick

Im Dezember 2023 wurde auf EU-Ebene eine Einigung über die Inhalte der neuen EU-KI-Verordnung (EU AI Act) erzielt, die am 13. März 2024 vom EU-Parlament angenommen wurde. Mit der KI-Verordnung wird ein Rechtsrahmen für den Einsatz von Künstlicher Intelligenz (KI) in Europa gesetzt.

Die Verordnung tritt 20 Tage nach ihrer Veröffentlichung im Amtsblatt der EU in Kraft und ist – bis auf einige Ausnahmen – 24 Monate nach ihrem Inkrafttreten uneingeschränkt anwendbar. Die europäischen Vorschriften sehen vor, dass KI-Systeme je nach Risikoniveau klassifiziert werden. Abhängig von der Einordnung werden unterschiedliche Vorgaben bei Einführung und Nutzung von KI-Anwendungen zu beachten sein. Je höher das Risiko ist, desto strenger sind die Anforderungen. Während KI-Systeme mit einem inakzeptablen Risiko, wie beispielsweise Social Scoring, gänzlich verboten werden und für Hochrisiko-KI-Systeme strenge technische und organisatorische Anforderungen gelten, unterliegen Anwendungen mit geringem Risiko lediglich bestimmten Transparenz- und Informationspflichten. Es ist zu erwarten, dass KI-Anwendungen, die im Kontext des Personalwesens eingesetzt werden, oft als solche Hochrisikosysteme betrachtet werden. Insoweit wird eine Prüfung der eingesetzten KI-Anwendungen allgemein und insbesondere im HR-Bereich unerlässlich sein.

V.

Fazit und Praxishinweise

Die Integration von Künstlicher Intelligenz (KI)-Anwendungen wie ChatGPT eröffnet zahlreiche Chancen, Arbeitsabläufe effizienter und schneller zu gestalten, bringt jedoch, wie man sieht, auch zahlreiche Stolpersteine mit sich. Hier sind Unternehmen gut beraten, mögliche Risiken zu identifizieren und unternehmemsinterne Richtlinien zur Nutzung von KI aufzustellen.

Unser Expertenteam Digital New Work und Datenschutz unterstützt Sie in diesen Bereichen gerne.

KI im Arbeitsrecht – Überblick & Update

Lisa-Lorraine Christ, LL.M.

Nutzung von KI-Systemen im Unternehmen

1. Ist es den Beschäftigten gestattet, ChatGPT & Co. eigenständig zur Erledigung ihrer Arbeitsaufgaben zu verwenden?

2. Ist es dem Arbeitgeber möglich die Nutzung von KI-Anwendungen zur Erbringung der Arbeitsleistung anzuordnen oder zu untersagen?

3. Was sind zu berücksichtigende Risiken?

Praxishinweis:

KI im Recruiting – Diskriminierungsgefahr erkennen und begegnen

1. Einsatzmöglichkeiten von KI im Recruiting

2. Einer der größten Stolpersteine: Die Diskriminierungsgefahr

3. Arbeitsrechtliche Konsequenzen einer Diskriminierung

Praxishinweis:

Mitbestimmung des Betriebsrats

KI-Verordnung: Aus- und Überblick

Fazit und Praxishinweise

Über den Autor

Lisa-Lorraine Christ, LL.M.

Ähnliche Beiträge

Desksharing im öffentlichen Dienst – Flexibilisierungsmöglichkeiten und Beteiligungsrechte des Personalrats

Hate Speech in sozialen Netzwerken – Folgen auch für das Arbeitsverhältnis

Arbeitsrecht-Newsletter