8 Minuten Lesezeit (1537 Worte)

Arbeiten mit dem Algorithmus – ChatGPT & Co. im Arbeitsleben

Mittwoch, 6. September 2023

Vom „Produktivitätsschub“ bis zum Wegfall ganzer Branchen – die Berichterstattung zum Einsatz von Künstlicher Intelligenz (KI) im Arbeitsleben wirft spätestens seit ChatGPT mit Superlativen nur so um sich.

Zuletzt verkündete auch Bundesarbeitsminister Hubertus Heil, dass es spätestens 2035 keinen Arbeitsplatz mehr ohne KI-Anwendungen geben werde. Da KI-Systeme wie ChatGPT für Beschäftigte leicht zugänglich und einfach nutzbar sind, haben sie bereits heute erheblichen Einfluss auf unseren Arbeitsalltag. Dies wird dadurch verstärkt, dass die typischen Office-Anwendungen wie Word oder Teams zukünftig noch stärker KI-Systeme implementieren werden. Unternehmen müssen sich zunehmend mit dem Einfluss von KI auf die Erbringung der Arbeitsleitung befassen. Wir beantworten einige der wichtigsten Fragen in diesem Zusammenhang.

Was ist KI?

In der Praxis werden häufig zahlreiche – auch einfach gelagerte Anwendungen – als KI bezeichnet. Dies hängt damit zusammen, dass die genaue Definition von KI sehr komplex und vielfach nicht möglich ist.

Der Entwurf der neuen europäischen KI-Verordnung unternimmt den Versuch eines Definitionsansatzes. Kennzeichnend für KI-Systeme ist, dass eine Maschine menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität imitieren kann. KI-Systeme sind in der Lage, ihr Handeln anzupassen, indem sie die Folgen früherer Aktionen analysieren und autonom arbeiten.

II.

Was ist die europäische KI-Vorordnung?

Bereits im April 2021 hat die EU-Kommission einen Rechtsrahmen für KI vorgeschlagen. Nach Zustimmung des EU-Parlaments am 14. Juni 2023 laufen aktuell die Gespräche mit den EU-Mitgliedstaaten im Rat über die endgültige Form der europäischen KI-Verordnung.

Die Verordnung wird damit voraussichtlich im Jahr 2024 verabschiedet. Sodann gilt die Verordnung 24 Monate nach deren Verkündung, also voraussichtlich ab dem Jahr 2026, damit ausreichend Zeit zur Umsetzung besteht (vgl. Art. 85 Abs. 2). Die europäischen Regelungen sehen eine Klassifizierung von KI-Systemen je nach Risikobereich vor. Generative KI-Systeme – wie ChatGPT – müssen Transparenzanforderungen erfüllen, d.h. sie müssen offenlegen, dass die Inhalte KI-generiert sind. Zusätzlich müssen sie dafür sorgen, dass keine rechtswidrigen Inhalte erzeugt werden. Außerdem müssen sie detaillierte Zusammenfassungen der urheberrechtlich geschützten Daten veröffentlichen, die sie zu Trainingszwecken verwendet haben.

III.

Wo werden KI-Systeme bereits eingesetzt?

Zahlreiche Unternehmen setzten KI-Systeme bereits bei der täglichen Arbeit ein. Die Anwendungsbereiche sind nahezu unbegrenzt:

KI-Chatbot:

Eine große Drogeriekette hat einen eigenen Chatbot mit eigener Cloudinfrastruktur entwickelt. Dieser kann von den Beschäftigten frei genutzt werden, bspw. zur Recherche oder zur Erstellung von Social Media-Beiträgen.

Predictive Pricing:

Im Online-Handel kann auf Basis umfangreicher und vielfältiger Daten wie Bestellhistorien, Produktattributen, Wetter, Lieferzeiten, Saisonalität und Wettbewerbspreisen ein konkurrenzfähiger Preis für bestimmte Produkte ermittelt werden.

HR-Bereich:

Im HR-Bereich kann es unzählige Einsatzgebiete geben. Mittels Kennzahlenanalysen kann gewährleistet werden, dass Stellenanzeige auf den richtigen Kanälen ausgerollt werden. Durch Programmatic Advertising kann dies noch zusätzlich optimiert werden und durch Robot-Recruiting und People Analytics kann eine Auswahl geeigneter Personen vereinfacht werden.

Office-Anwendungen:

Inzwischen unterstützen Word, Excel, PowerPoint und Co. nicht nur mit Verbesserungsvorschlägen für Orthografie und Grammatik, sondern unterbreiten auch Formulierungsvorschläge, formatieren Präsentationen automatisch und sortieren E-Mails nach Wichtigkeit und Nutzungsverhalten. Noch weitergehende Möglichkeiten soll der Windows-Copilot eröffnen, der dank KI viele Abläufe und Tätigkeiten bei der Arbeit mit Office automatisieren soll. Er baut ebenso wie ChatGPT auf einem Sprachmodell auf, das mit Daten des Unternehmens „gefüttert“ werden kann.

Die mit dem Einsatz von KI-Systemen einhergehenden Risiken sind dabei aber nicht zu unterschätzen und im Vorfeld – abhängig vom jeweiligen System – zu prüfen.

IV.

Kann der Arbeitgeber die Nutzung von KI-Systemen zur Erbringung der Arbeitsleistung anordnen oder verbieten?

Der Arbeitgeber kann kraft seines Weisungsrechtes die Nutzung von KI-Systemen wie ChatGPT oder anderen Anwendungen im Unternehmen erlauben oder untersagen.

Können Beschäftigte ChatGPT eigenständig zur Erfüllung der Arbeitsaufgaben nutzen?

Das BGB schreibt vor, dass Beschäftigte die Arbeitsleistung persönlich erbringen müssen (§ 613 BGB).

Teilweise wird daher angenommen, dass bei einer Leistungserbringung durch KI-Systeme keine persönliche Leistungserbringung mehr vorliegt und Beschäftigte KI-Systeme selbst dann nicht nutzen dürfen, wenn dies vom Arbeitgeber nicht ausdrücklich verboten ist.

Allerdings handelt es sich bei KI-Systemen nicht um eine andere Person, sondern „lediglich“ um ein technisches Hilfsmittel. Ihnen kommt nach deutschem und europäischem Recht aktuell noch keine eigene Rechtspersönlichkeit zu. Der Pflicht zur persönlichen Leistungserbringung stehen KI-Systeme wie ChatGPT – zumindest aktuell – noch nicht entgegen. Insoweit gilt nichts anderes als bei der Nutzung von Suchmaschinen oder Übersetzungstools etc. Zu beachten sind jedoch stets die datenschutz- bzw. urheberrechtlichen Bestimmungen. Hier ist eine Sensibilisierung der Belegschaft unerlässlich.

VI.

Hat der Betriebsrat ein Mitbestimmungsrecht?

Ja. Interessanterweise regelt das sonst etwas in die Jahre gekommene Betriebsverfassungsgesetz (BetrVG) an unterschiedlichen Stellen Mitbestimmungsrechte des Betriebsrates beim Einsatz von KI. Ein Überblick:

Vor dem Einsatz von KI ist der Betriebsrat zu unterrichten und der Einsatz ist mit ihm zu beraten (§ 90 I Nr. 3 BetrVG).

Ein echtes Mitbestimmungsrecht besteht, wenn KI-Systeme zur Aufstellung von Richtlinien über die personelle Auswahl bei Einstellungen, Versetzungen, Umgruppierungen und Kündigungen genutzt werden (§ 95 II a BetrVG).

Ein Mitbestimmungsrecht besteht zudem, wenn KI geeignet ist, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen (§ 87 Abs. 1 Nr. 6 BetrVG). Hier kommt es auf das jeweilige System an: Bei ChatGPT dürfte dies unmittelbar nicht der Fall sein, sofern der Arbeitgeber keinen Zugriff auf die Nutzerdaten „seiner“ Beschäftigten hat. Anders wird dies bei dem Windows Copilot sein, der – wie zahlreiche Office-Anwendungen – eine Kontrolle des Nutzerverhaltens zulässt.

Die Hinzuziehung eines Sachverständigen durch den Betriebsrat bei der Einführung und Nutzung von KI gilt stets als erforderlich (§ 80 Abs. 3 S. 2 BetrVG).

Wenn KI-Anwendungen zu einer grundlegenden Veränderung der Arbeitsmethoden führen, kann darin auch eine Betriebsänderung (§ 111 BetrVG) liegen, die Verhandlungen mit dem Betriebsrat über Interessenausgleich und Sozialplan erforderlich macht.

VII.

Welche datenschutzrechtlichen Probleme gibt es?

KI-Systeme werfen zahlreiche datenschutzrechtliche Probleme auf, da gerade im Arbeitsverhältnis eine Vielzahl personenbezogener Daten verarbeitet werden und sich diese Verarbeitung vielfach nur schwer kontrollieren lässt.

Es kommt dabei stets auf das jeweilige System an. Insbesondere im HR-Bereich ist darauf zu achten, dass keine automatisierte Entscheidung ohne menschlichen Einfluss – bspw. über eine Zu- oder Absage im Bewerbungsverfahren – ausschließlich durch das KI-System erfolgt (vgl. Art. 22 DSGVO). Auch bei ChatGPT ist eine datenschutzkonforme Nutzung im Unternehmen aktuell eigentlich nicht möglich. Es bestehen zahlreiche Risiken:

Erfassung der Nutzerdaten:

Bei der Anmeldung speichert ChatGPT nach Angaben in der Datenschutzerklärung Kontodaten, Benutzernamen, E-Mail-Adresse, IP-Adresse sowie Chatverläufe. Auch ist eine Weitergabe solcher Daten an Dritte durchaus möglich (vgl. Ziffer 3 Privacy Policy vom 23. Juni 2023). Arbeitgeber können damit eine datenschutzkonforme Verarbeitung der Nutzerdaten im Rahmen des Arbeitsverhältnisses nicht sicherstellen, wenn Beschäftigte eigene Accounts einrichten.

Dateneingabe:

Bei der Eingabe von Daten kommt es auf den jeweiligen Einzelfall an. Werden Informationen ohne jeglichen Personenbezug eingegeben, existieren insofern nur geringe datenschutzrechtlichen Risiken.

Bsp.: Das Muster einer Abmahnung kann man ChatGPT erstellen lassen, wenn Daten und Sachverhalt anonymisiert sind. „Herr X ist am 1., 3. August 2023 jeweils 20 Minuten unentschuldigt zu spät gekommen, erstelle bitte eine Abmahnung“.

Eine Eingabe von personenbezogenen Daten – und natürlich auch sonstigen sensiblen Informationen (insb. Geschäftsgeheimnissen) – sollte zwingend unterbleiben. Es lässt sich nicht ansatzweise nachvollziehen, wie solche Informationen durch das System verarbeitet werden.

Nicht auszuschließen ist, dass OpenAI künftig Schutzmechanismen einführen muss, damit ChatGPT datenschutzkonformer genutzt werden kann. Der Hessische Datenschutzbeauftragte hat einen mit weiteren Behörden abgestimmten umfassenden Fragenkatalog zur Einhaltung des Datenschutzrechts an OpenAI übersandt. Auch Bundesarbeitsminister Hubertus Heil hat zuletzt die Vorlage von Eckpunkten für den Datenschutz der Beschäftigten beim Einsatz von KI angekündigt.

VIII.

Welche Maßnahmen sollten Unternehmen zwingend ergreifen, bevor Sie KI-Systeme einführen?

Mit Blick auf die Komplexität und die zahlreichen Einsatzgebiete von KI-Systemen kann dazu keine allgemeine Antwort gegeben werden. Insbesondere bei Sprachmodellen wie ChatGPT, die personenbezogene Daten verarbeiten können und deren Nutzung durch die Belegschaft nur schwer kontrollierbar ist, sollten zwingend nachfolgende Aspekte beachtet werden:

Compliance-Risk-Assessment:

Es sind bei jeder Anwendung von KI-Systemen die denkbaren Risiken zu prüfen und die angestrebten Ziele/Zwecke der Nutzung zu bewerten.

Policy:

Davon ausgehend sind in einer internen Policy die Risiken und Einsatzgebiete aufzuzeigen. So sollte bspw. in einer ChatGPT-Policy geregelt werden, welche Daten dort eingegeben werden dürfen und welche Risiken bei der Nutzung bestehen. Die Einhaltung der Policy im Rahmen der Möglichkeiten zu überwachen und Verstöße sind (arbeitsrechtlich) zu sanktionieren.

Schulungskonzepte:

Es sollten Schulungen für die Beschäftigten angeboten werden, die KI-Systeme nutzen. Die europäische KI-Verordnung soll solche Schulung in bestimmten Bereichen auch vorschreiben.

Einbindung des BR:

Da alle Systeme mit dem BR abgestimmt sein müssen, ist dieser frühzeitig einzubinden. Durch eine transparente Kommunikation können langwierige Verhandlungen im Anschluss vermieden werden.

Datenschutz:

Die Datenschutz-Policy ist im jeweiligen Einzelfall zu überarbeiten. Es ist insbesondere festzulegen, zu welchem Zweck durch das KI-System personenbezogene Daten verarbeitet werden können oder das eine solche Verarbeitung gänzlich untersagt ist. Weiterhin sind technische und organisatorische Konzepte zum Schutz der personenbezogenen Daten zu ergreifen. Das Verzeichnis der Verarbeitungstätigkeiten ist zu ergänzen.

IX.

Fazit und Ausblick

Die Auswirkungen von KI auf unsere Arbeitswelt werden immer stärker spürbar. Auch die Politik hat diese Entwicklung erkannt und will den KI-Einsatz vor allem in kleineren und mittelständischen Unternehmen fördern.

Dabei müssen die Chancen und Risiken in einen angemessenen Ausgleich gebracht werden. Eine rechtssichere Implementierung im Unternehmen setzt dabei ein Grundverständnis der Technik voraus, um die damit einhergehenden Risiken bewerten zu können. Durch die KI-Verordnung wird zudem in Zukunft ein einheitlicher Rechtsrahmen geschaffen, auf den sich Unternehmen vorbereiten sollten. Zugleich hat Bundesarbeitsminister Hubertus Heil auch die Vorlage von Eckpunkten für den Datenschutz der Beschäftigten angekündigt.

Unser Team unterstützt Sie in diesen Bereichen gerne.

Markiert in:

Über den Autor

Dr. Thomas Köllmann

Dr. Thomas Köllmann berät und vertritt bei der Sozietät Küttner seit 2018 Unternehmen, Führungskräfte und Organmitglieder in allen Bereichen des Individual- und Kollektivarbeitsrechts sowie des Dienstvertragsrechts. Zu seinen Tätigkeitsschwerpunkten zählen die Vertragsgestaltung, betriebsverfassungsrechtliche Fragestellungen, das Arbeitsrecht im öffentlichen Dienst sowie die Beratung im Bereich des Beschäftigtendatenschutzes und Themen rund um die Arbeitswelt 4.0. Er promovierte berufsbegleitend zu betriebsverfassungsrechtlichen Fragestellungen unter besonderer Berücksichtigung der Datenschutzgrundverordnung. Dr. Thomas Köllmann veröffentlicht und doziert regelmäßig zu arbeitsrechtlichen Themen.

Neueste Beiträge des Autors

Mehr Beiträge vom Autor

Dienstag, 7. Mai 2024 Hate Speech in sozialen Netzwerken – Folgen auch für das Arbeitsverhältnis

Montag, 8. April 2024 Der „digitale Arbeitsvertrag“ – zwischen Wunschvorstellung und Realität

Montag, 11. März 2024 Arbeitsrecht im Metaverse – Virtuell & Augmented Reality als die Zukunft der Arbeit?!