Künstliche Intelligenz und Arbeitsrecht haben so einige Berührungspunkte, manche davon in durchaus sensiblen Bereichen, wenn es z. B. um Themen wie Datenschutz, Mitbestimmung, Diskriminierung geht.
Vielleicht ist das auch der Grund dafür, warum sich nicht nur bei manch einem Arbeitsrechtler bzw. bei manch einer Arbeitsrechtlerin ein gewisses Unbehagen einstellt, sobald es um den zunehmenden Einfluss geht, den KI-Systeme auf Arbeitsverhältnisse ausüben.
Auf der anderen Seite zeigt sich insbesondere in international geprägten Unternehmen gern einmal eine im Vergleich zur deutschen Sorgfalt auffällige Gelassenheit gegenüber den arbeitsrechtlichen Auswirkungen von KI-Anwendungen auf Beschäftigungsverhältnisse.
Aktuell ist die rasante Entwicklung und Verbreitung von KI-Lösungen ihrer internationalen Regulierung noch weit voraus, wobei mit dem EU AI Act jetzt eine Weltpremiere für ein erstes KI-Gesetz beschlossen ist.
In jedem Fall ist wohl jedes Unternehmen, das KI-Lösungen aktuell oder zukünftig einsetzen möchte, gut beraten, sich zügig auf geltende und zukünftige Bestimmungen vorzubereiten, das gilt insbesondere auch für arbeitsrechtliche Aspekte.
Für einen schnellen Überblick haben wir im Folgenden die wichtigsten arbeitsrechtlichen Gesichtspunkte, die für die Implementierung und den Einsatz von KI-Anwendungen in Unternehmen berücksichtigt werden sollten, zusammengefasst.
Was ist KI überhaupt?
Das Europäische Parlament definiert Künstliche Intelligenz als „Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren.“
Übertragen auf die unternehmerische Praxis im HR-Bereich können dies vielfältige KI-Anwendungen sein, wie beispielsweise die Erfassung von Datenzusammenhängen, die Automatisierung von verschiedenen Prognosen oder die Optimierung von Recruiting-Prozessen.
Die hohe Attraktivität von KI-Systemen besteht darin, dass sie insbesondere im Bereich von repetitiven Aufgaben erhebliche Entlastungen bewirken können, sofern sie richtig eingesetzt werden. Dies liegt vor allem an der Lernfähigkeit von KI-Lösungen, die sie auch während der Bewältigung sehr großer Datenmengen ohne Abnutzungseffekte einsetzen können.
Ist Künstliche Intelligenz arbeitsrechtlich gefährlich unreguliert?
Manch eine oder einer wird vielleicht denken, dass KI-Entwickler die Freiheit haben, der Künstlichen Intelligenz Flügel zu verleihen, während den juristischen Berufen die Aufgabe zukommt, die KI wieder auf den Boden der Tatsachen zurückzuholen.
Natürlich sind die gehobenen Potenziale und die tatsächlich geschaffenen Zeit- und Kosteneinsparungen dort, wo KI bereits zum unternehmerischen Alltag gehört, zum Teil erheblich. Künstliche Intelligenz ist eine Revolution, die für Wirtschaft, Unternehmen und entgegen vieler Befürchtungen auch für jeden einzelnen Mitarbeitenden große Vorteile mit sich bringen kann.
KI ist jedoch auch eine Revolution, die sich als durchaus anfällig für Missbrauch zeigt. Bereits jetzt gibt es Entwicklungen, wie z. B Deepfakes, von denen wir uns wünschen, dass die KI-Evolution sie nie hervorgebracht hätte. Und siehe da, schon sind die Juristen, die im Zusammenhang mit KI sonst gern als bremsende Bedenkenträger betrachtet werden, genau diejenigen, die nun immer öfter wegen solcher Diskriminierungen und Verletzungen von Persönlichkeitsrechten engagiert werden.
Aber wie steht es aktuell um die Lage von Künstlicher Intelligenz im arbeitsrechtlichen Kontext? Sind wir möglichen Gefahren ohne ein spezielles KI-Gesetz, welches aktuell große Fortschritte macht, aber faktisch immer noch nicht greift, vollkommen schutzlos ausgeliefert?
Zum Glück nicht. Während mit dem EU AI Act europaweite Regelungen und Grenzen für den Umgang mit KI noch auf dem Weg sind, wird KI bereits heute durch verschiedene Datenschutzbestimmungen sowie durch die Diskriminierungsverbote des Allgemeinen Gleichbehandlungsgesetzes reguliert.
Und auch für den Betriebsrat bestehen unterschiedliche Unterrichtungs- und Beteiligungsrechte, welche insbesondere durch das Betriebsrätemodernisierungsgesetz 2021 mit Fokus auf den Einsatz von KI speziell ergänzt wurden.
Wie genau greift aktuell der Datenschutz bei KI-Nutzung?
Einfach gesprochen darf die KI maximal in assistierender Funktion Daten vorbereiten und anreichen, die finale Auswahl darf jedoch nur von einer natürlichen Person getroffen werden.
Die Datenschutz-Grundverordnung (DSGVO) erlaubt den Einsatz von KI vor oder nach Begründung des Arbeitsverhältnisses, allerdings nur in bestimmten Grenzen.
Nicht erlaubt sind laut Art. 22 Abs. 1 DSGVO beispielsweise Bewerbungsverfahren, bei denen Kandidaten aussortiert werden, ohne dass eine natürliche Person sich mit ihnen beschäftigt hat. Also ein Schutz vor Profiling, bei dem jemand einer Entscheidung unterworfen wird, die ausschließlich auf einer automatisierten Verarbeitung beruht.
Diese Regelung zielt darauf ab, dass Entscheidungen, die das Persönlichkeitsrecht betreffen, nicht von Künstlicher Intelligenz getroffen werden sollen. Rechtlich verbindliche Entscheidungen müssen demnach immer aktiv von einem Menschen ausgeführt werden.
Zusätzlich ist nach § 26 Abs. 1 S. 1 BDSG (Bundesdatenschutzgesetz) eine Datenverarbeitung im Arbeitsverhältnis zulässig, wenn sie erforderlich ist:
- für die Entscheidung über die Begründung des Beschäftigungsverhältnisses oder
- für die Durchführung des Beschäftigungsverhältnisses oder
- für die Beendigung des Beschäftigungsverhältnisses
Pro Einzelfall muss geprüft werden, ob:
- eine Datenverarbeitung durch die KI-Anwendung geeignet ist, um das erstrebte Ziel zu erreichen
- kein milderes Mittel zur Verfügung steht und
- die Interessen des Unternehmens den Eingriff in die Persönlichkeitsrechte der betroffenen Beschäftigten überwiegen.
Sofern § 26 Abs. 1 S. 1 BDSG ausgehend von der aktuellen Rechtsprechung des EuGH als europarechtswidrig zu erachten sein sollte, ist die Datenverarbeitung unter vergleichbaren Anforderungen jedenfalls gem. Art. 6 Abs. 1 DSGVO erlaubt.
Sind diese Voraussetzungen nicht erfüllt, könnte eine freiwillige Einwilligung durch den jeweiligen Mitarbeiter die Datenverarbeitung durch ein KI-System möglich machen. Da diese Einwilligung aber jederzeit widerrufen werden kann, empfiehlt sich dieses wenig belastbare Vorgehen für die betriebliche Praxis eher nicht.
Neigen KI-Lösungen zu Diskriminierung?
Es ist eine durchaus weit verbreitete Fehlannahme, dass KI-Systeme, anders als wir Menschen, zuverlässig frei von subjektiver Präferenz, auch „Bias“ genannt, arbeiten. Denn leider übernehmen KI-Anwendungen unsere Präferenzen und damit auch ungewollt unsere Diskriminierungen leider viel zu oft.
Die automatische Übernahme dieser zu ungewollten Diskriminierungen führenden Präferenzen erfolgt durch die Trainingsdaten, mit denen wir die KI-Lösungen füttern. Wenn diese Daten vorher nicht sauber um das menschliche „Bias“ bereinigt wurden, ist auch die KI-Anwendung vor Entscheidungen, die diskriminierend sein können, nicht geschützt.
Das zeigt sich z. B. auch bei den Trainingsdaten im KI Recruiting. Werden diese entsprechend repräsentativ und vielfältig aufbereitet und regelmäßig auf Verzerrungen überprüft, können sie sehr gut eingesetzt werden.
Die Bereinigung der Trainingsdaten und laufende Prüfung der KI-Systeme sollte mit viel Sorgfalt, z. B. im „Vier-Augen-Prinzip“ erfolgen. Umso mehr, wenn doch klar ist, dass selbst diejenigen Menschen, die eben diese Prüfungen oder Programmierungen der KI-Anwendungen durchführen, nicht völlig frei von Prägungen, Präferenzen oder auch Vorurteilen sein können.
Sind KI-Systeme nicht gut vor Diskriminierung geschützt, kann es in der Folge zu einer unmittelbaren oder mittelbaren Benachteiligung im Sinne des § 3 Abs. 1 bzw. Abs. 2 AGG (Allgemeines Gleichbehandlungsgesetz) kommen. Wird eine solche KI-basierte Diskriminierung bekannt, drohen dem Arbeitgeber Schadensersatz- und Entschädigungsansprüche nach § 15 AGG oder zumindest öffentlichkeitswirksame Auseinandersetzungen darüber.
Nicht zu unterschätzen ist zudem auch der Schaden für den Personalbereich, der dadurch intern wie extern mit seinem KI-System nicht gut dasteht, was sich wiederum sehr schnell negativ auf das Unternehmensimage auswirken kann.
Um vermeidbare Diskriminierungen und eine aufwendige Schadensbegrenzung zu umgehen, empfiehlt sich ein gründlicher Testbetrieb mit der jeweiligen KI-Lösung. Erst wenn sich im Test zeigt, dass die KI-Anwendung unter möglichst realistischen Bedingungen keine Verstöße gegen das AGG erzeugt, ist ein guter Startzeitpunkt erreicht.
Beteiligungsrechte des Betriebsrats berücksichtigen
Ist der Einsatz eines KI-Systems in einem Unternehmen geplant, so ist der Betriebsrat über die Planung nach § 90 Abs. 1 Nr. 3 BetrVG (Betriebsverfassungsgesetz) zu unterrichten, sofern sich der KI-Einsatz auf Arbeitsverfahren und Arbeitsabläufe auswirkt.
Wenn bei der Einführung von Künstlicher Intelligenz eine KI-Anwendung dazu in der Lage ist, das Verhalten oder die Leistung der Mitarbeitenden zu überwachen, tritt ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG ein. Abhängig davon, wie die Aufgaben und Entscheidungsbefugnisse der KI-Lösung eingesetzt werden, könnten noch weitere Mitbestimmungsrechte des Betriebsrats nach § 87 Abs. 1 BetrVG aufkommen.
Ein weiteres Beispiel: Eine KI darf eigenständig, ohne die Zustimmung des Betriebsrats, keine Richtlinie zur Auswahl von Personal erstellen. § 95 Abs. 2a BetrVG macht deutlich, dass auch in diesem Fall die Beteiligungsrechte des Betriebsrats nach § 95 Abs. 1, 2 BetrVG bestehen.
Sofern die Einführung von KI-Anwendungen eine grundlegende Veränderung von Betriebsanlagen (§ 111 S. 3 Nr. 4 BetrVG) oder eine Einführung grundlegend neuer Arbeitsmethoden und Fertigungsverfahren (§ 111 S. 3 Nr. 5 BetrVG) erforderlich macht, kann sie zu einer Betriebsänderung gemäß §§ 111 ff. BetrVG führen. Dadurch werden ebenfalls Beteiligungsrechte des Betriebsrats ausgelöst.
Gemäß § 80 Abs. 3 BetrVG steht es dem Betriebsrat außerdem zu, nach Vereinbarung mit dem Arbeitgeber einen Sachverständigen einzusetzen, wenn er die Einführung und Anwendung von KI-Systemen zu beurteilen hat.
Inwieweit dürfen Mitarbeiter KI-Lösungen für die Ausführung Ihrer Arbeit einbinden?
Ob und wenn ja, in welchem Umfang Mitarbeitende KI-Tools für die Erbringung ihrer Arbeitsleistung einsetzen dürfen, kann jedes Unternehmen individuell für sich entscheiden.
Grundsätzlich sind Unternehmen frei darin, die Nutzung von KI-Lösungen für ihre Mitarbeitenden zu verbieten. Beschäftigte, die für die Erbringung ihrer Arbeitsleistung dennoch KI-Anwendungen verwenden, begehen eine Pflichtverletzung, welche, abhängig von den jeweiligen Umständen und der Schwere des Verstoßes, arbeitsrechtlich z. B. eine Er- oder Abmahnung zur Folge haben kann.
Möglicherweise gibt es Branchen oder Bereiche, in denen es sinnvoll ist, für Mitarbeiter die Nutzung von KI-Tools auszuschließen. Auf der anderen Seite zeigt sich in vielen Bereichen schon jetzt, dass KI-Anwendungen, sofern sie von Beschäftigten professionell angewandt werden, erheblich positive Beiträge zu Effektivität und Qualität von Arbeitsprozessen und -ergebnissen bewirken können.
Angesichts der rasanten Verbreitung von KI-Lösungen in immer mehr Lebens- und Arbeitsbereichen und der zunehmenden Beliebtheit auf Seiten von Beschäftigten, treffen immer mehr Unternehmen Regelungen für die Nutzung von KI am Arbeitsplatz, auch um Auseinandersetzungen vorzubeugen.
Denn ist die KI-Nutzung nicht geregelt, muss im Fall der Verwendung von KI durch einen Mitarbeiter geklärt werden, ob er seiner Verpflichtung zur höchstpersönlichen Erbringung seiner Arbeitsleistung nachgekommen ist. Diese Höchstpersönlichkeit bezieht sich normalerweise darauf, dass keine andere Person die Arbeit des Beschäftigten an seiner Stelle für ihn erledigen darf.
Um zu klären, ob ein Mitarbeitender seine Arbeitsleistung mithilfe von KI erbringen darf, kommt es bei der Höchstpersönlichkeit auf den Umfang seiner KI-Nutzung an. Generiert der Mitarbeitende beispielsweise mithilfe der KI Arbeitsergebnisse, die er unverändert einsetzt, ohne sie zu überarbeiten, kann ein Verstoß gegen die Höchstpersönlichkeit der Arbeitsleistung vermutet werden. Überprüft der Beschäftigte jedoch das Arbeitsergebnis der KI und bringt durch seine eigene Arbeit eine wesentliche Überarbeitung ein, dürfte von einer Einhaltung seiner Pflicht zur höchstpersönlichen Erbringung seiner Arbeit auszugehen sein.
Neben transparenten Regelungen für die KI-Nutzung sind Schulungen für die korrekte Nutzung von KI-Systemen sinnvoll. So lernen Mitarbeitende im Umgang mit KI-Anwendungen Datenschutz-Regelungen einzuhalten, Copyright-Verstöße zu umgehen und können sich z. B. von vornherein angewöhnen, keine personenbezogenen Daten in KI-Systeme einzugeben. Zudem sollten Beschäftigte die Ergebnisse, welche KI-Anwendungen ihnen zur Verfügung stellen, zusätzlich immer im Detail prüfen und kritisch hinterfragen, denn sie liefern nicht immer korrekte Ergebnisse.
Sofern Unternehmen für ihre Mitarbeitende die Nutzung von KI-Tools erlauben, empfiehlt sich, dies durch möglichst präzise formulierte KI-Nutzungsklauseln in Arbeitsverträgen oder Arbeitsanweisungen festzuhalten. Sollten bei der KI-Nutzung Mitbestimmungsrechte des Betriebsrats berührt werden, können KI-Regelungen in Betriebsvereinbarungen getroffen werden.
Wie stark nimmt der EU AI Act Einfluss auf das Arbeitsrecht?
Der Vorschlag der Europäischen Kommission kam bereits im Jahr 2021, am 9. Dezember 2023 erzielten Europäischer Rat und Europäisches Parlament dann eine vorläufige Einigung über den Gesetzesentwurf für ein weltweit erstes umfassendes KI-Gesetz (EU AI Act). Voraussichtlich im Jahr 2026 soll der EU AI Act zur Anwendung kommen.
Der EU AI Act legt für KI-Anwendungen eine Einstufung in vier Risikogruppen zugrunde, von „unannehmbar“ bis „begrenztem Risiko“. Für jede Risikostufe gelten jeweils eigene Regelungen und je höher die Risikogruppe, desto strenger sind die Regelungen, die durch den europäischen Gesetzgeber hinterlegt sind:
- unannehmbar: betrifft KI-Anwendungen, die in der EU als verboten eingestuft werden
- Hochrisiko: betrifft KI-Lösungen, deren Verwendungen grundsätzlich zulässig ist, jedoch nur bei Erfüllung strenger Anforderungen
KI-Anwendungen, die den Kategorien „unannehmbar" oder „Hochrisiko“ nicht entsprechen, werden je nach Beschaffenheit als „allgemeine und generative KI“ oder „begrenztes Risiko“ gruppiert.
Im Gegensatz zu der KI-Anwendung ChatGPT, welche erwartungsgemäß der Risikogruppe „allgemeine und generative KI“ zuzuordnen ist, werden KI-Lösungen für den HR-Bereich vom EU AI Act als Hochrisiko-KI-Systeme eingestuft. Nachlesen lässt sich dies im EU AI Act Entwurf Art. 6 Abs. 3 sowie im Anhang III Nr. 4. für KI-Systeme aus dem Bereich Beschäftigung und HR-Management, die für das Recruiting und die Auswahl von Kandidaten verwendet werden sollen.
Ebenso erhalten KI-Systeme eine Hochrisiko-Einstufung, die eingesetzt werden, um z. B.:
- über Beförderungen und Kündigungen von Arbeitsverhältnissen zu entscheiden
- aufgrund des individuellen Verhaltens oder aufgrund persönlicher Merkmale oder Eigenschaften von Mitarbeitenden Aufgaben zuweisen
- Leistung und das Verhalten von Beschäftigten zu beobachten und zu bewerten
- über die Zulassung zu beruflichen Fortbildungen entscheiden
Wie bereits oben erwähnt, gelten für Hochrisiko-KI-Systeme hohe Anforderungen und ein anspruchsvolles Regelwerk, das unbedingt einzuhalten ist. Beispielsweise sollte auf folgende Punkte besonderes Augenmerk gelegt werden:
- Risikomanagementsystem einrichten (siehe Art. 9 EU AI Act-Entwurf): Auch nach der Einrichtung muss sichergestellt sein, dass Anwendung, Dokumentation und Betrieb ordnungsgemäß laufen.
- Qualitätskriterien für Trainingsdaten erfüllen (siehe Art. 10 EU AI Act-Entwurf): Die Daten, mit denen die KI trainiert wird, müssen besondere Qualitätskriterien erfüllen.
- Überwachung der KI-Systeme (siehe Art. 29 Abs. 1a EU AI Act-Entwurf): Es muss sichergestellt sein, dass die KI nicht sich selbst überlassen wird, sondern eine menschliche Überwachungsinstanz als Aufsicht installiert ist.
- Aufbewahrung von KI-Protokollen (siehe Art. 29 Abs. 5 EU AI Act-Entwurf): Protokolle, welche das KI-System über bestimmte Ereignisse bzw. Vorgänge automatisch erstellt, müssen aufbewahrt werden.
Unternehmen müssen damit rechnen, dass hohe Geldbußen bei Verstoß gegen die Regelungen des EU AI Act zu zahlen sind, welche in Abhängigkeit vom weltweiten Jahresumsatz des jeweiligen Unternehmens festgesetzt werden.
Dieser Newsletter hält Interessierte zu den Entwicklungen des EU Artifical Acit gut auf dem Laufenden. Zusätzlich können Unternehmen mit dem Compliance Checker prüfen, wie sich das EU-KI-Gesetz auf ihr KI-System auswirkt.
Eigene Risikobewertung und Richtlinien für KI standardisieren
Nicht nur die Entwicklung der Künstlichen Intelligenz, auch die Diskussion um ihre in mancher Hinsicht noch nicht vollständig absehbaren Risiken und Gefahren zeigt sich derzeit sehr dynamisch.
Umso wichtiger ist es für Unternehmen, möglichst frühzeitig eine standardisierte Risikoabwägung aufzubauen und weiterzuentwickeln, und zwar möglichst transparent und unter Einbeziehung des Betriebsrats. So können interne Richtlinien entstehen, die die Einführung weiterer KI-Anwendungen für alle Beteiligten in einem gemeinsam entwickelten Standardprozess erheblich erleichtern. Im Nebeneffekt senden Unternehmen nach innen und außen das wichtige Signal, für eine Zukunft mit KI gerüstet zu sein.
Im besten Fall wird auch die Erfüllung der Vorgaben des EU AI Act frühzeitig vorbereitet, auch wenn dieser aktuell noch nicht gilt. Zu beobachten sein wird auch, ob und wenn ja in welcher Ausgestaltung ein deutsches Beschäftigtendatenschutzgesetz kommen wird.
Bereichsübergreifenden permanenten KI-Steuerkreis schaffen
Vom Data Scientist und AI Software-Entwickler über User Experience Designer und Change Manager bis hin zu fließend KI sprechenden Projekt-Managern, Business Leadern und Fachexperten:
Künstliche Intelligenz wirkt sich nicht nur auf Arbeitsprozesse, sondern auch auf die Rollen in Unternehmen aus. Manche bisherigen Rollen müssen sich ein Stück weit wandeln und je nach Unternehmenstyp werden auch verschiedene neue KI-spezifische Positionen zu besetzen sein. Nur so kann dauerhaft eine erfolgreiche Integration sowie ein reibungsloser Betrieb mit KI gelingen.
Im besten Fall wird unter Einbindung dieser neuen und veränderten Rollen eine Art KI-Steuerungskomitee gebildet, welches nicht punktuell, sondern kontinuierlich in enger Abstimmung bleibt. Gerade mit Blick auf kritische Themen rund um Compliance und Arbeitsrecht sollten neben den KI-bezogenen Rollen auch der HR-Bereich sowie die Arbeitnehmervertretung in diesem Steuerkreis entsprechend vertreten sein.
Sie möchten mehr erfahren?
Wenn Sie noch mehr darüber erfahren möchten, wie KI und Arbeitsrecht in der betrieblichen Praxis gut miteinander in Einklang gebracht werden, schauen Sie sich auch gerne die Aufzeichnung unseres Webinars zu diesem Thema an, mit wertvollen Tipps von Arbeitsrechtsexperten – aus der juristischen Beratung für Arbeitgeber ebenso wie aus dem personalwirtschaftlichen Bereich!
Die in diesem Blog Artikel bereitgestellten Informationen werden ausschließlich zu allgemeinen Informationszwecken und nicht zum Zwecke einer Rechtsberatung zur Verfügung gestellt und spiegeln nicht unbedingt die aktuelle Gesetzeslage oder aktuelle Richtlinien wider. Die Informationen sind nicht als eine Rechtsberatung zu etwaigen Angelegenheiten auszulegen. Die Informationen bilden gegebenenfalls nicht die aktuellen rechtlichen Entwicklungen ab. In Bezug auf die Korrektheit oder Vollständigkeit der Informationen wird keine ausdrückliche oder implizite Gewährleistung oder Garantie gegeben und auf diese sollte somit nicht vertraut werden. Die HR Recruitment & Interim AG übernimmt im gesetzlich zulässigen Rahmen keinerlei Haftung im Hinblick auf Handlungen und Unterlassungen auf Basis von Inhalten dieses Blog Artikels. Die Informationen erheben keinen Anspruch auf Vollständigkeit und beabsichtigen nicht die Darstellung einer Beratung, auf die Sie sich verlassen können. Für konkrete rechtliche Angelegenheiten sollten Sie stets eine qualifizierte Rechtsberatung zurate ziehen.
