Der "Robo-Boss" - Künstliche Intelligenz im Arbeitsverhältnis (Höpfner/Daum, ZFA 2021, 467)
Arbeitnehmer wie Arbeitgeber versprechen sich vom Einsatz Künstlicher Intelligenz (KI) schnelle, effiziente und objektive Entscheidungen. Allerdings kann von durch KI vorbereiteten Einstellungen und Entlassungen die Gefahr von Datenschutzverstößen und Diskriminierungen ausgehen, was für Arbeitgeber entsprechende Haftungsrisiken zur Folge hat. Rechtlich weniger problembehaftet ist hingegen die Ausübung des arbeitsrechtlichen Direktionsrechts durch moderne Algorithmen. Die vorgeschlagene europäische KI-Verordnung könnte zu einem einen hohen technischen Standard und mehr Rechtssicherheit beitragen.
I. Einführung
II. Technische Grundlagen Künstlicher Intelligenz
1. Maschinelles Lernen
2. Neuronale Netze
3. Künstliche Intelligenz in der Arbeitswelt
III. Rechtlicher Rahmen
1. Billigkeitskontrolle von KI-Weisungen
a) Dogmatische Behandlung sog. Computererklärungen
b) Billigkeit ohne Abwägung
2. Datenschutzrecht
a) Verbot automatisierter Entscheidungen, Art. 22 DS-GVO
aa) Einstellungen und Kündigungen durch KI
(1) Abgrenzung zur zulässigen Computerunterstützung
(2) Einwilligungsfähigkeit
bb) Weisungserteilung durch KI
b) Auskunftsansprüche der Beschäftigten
c) Konsequenzen von Datenschutzverstößen
3. Antidiskriminierungsrecht
a) Benachteiligungsverbot, § 7 Abs. 1 AGG
aa) Fallbeispiele
bb) Kausalität
b) Beweislast, § 22 AGG
c) Vertretenmüssen des Arbeitgebers (§ 15 Abs. 1 AGG)
aa) Eigenes Verschulden des Arbeitgebers
bb) Zurechnung des Software-Dienstleisters
IV. Mögliche Auswirkungen einer europäischen KI-Verordnung
V. Fazit
I. Einführung
Seit rund zweieinhalb Millionen Jahren arbeitet der Mensch mit Werkzeug – erst mit Faustkeilen, später mit Maschinen. Lastenkräne erleichterten die Arbeit auf Baustellen bereits im antiken Griechenland; heute sind es Roboter, die den Beschäftigten in der Automobilindustrie schwere Komponenten anreichen. War es bislang stets der Mensch, der Werkzeuge einsetzte, erwecken der technologische Fortschritt und die Digitalisierung in diesem Jahrtausend erstmals den Eindruck, dass nicht mehr nur der Mensch Maschinen bedient, sondern Maschinen den Menschen steuern. So wurde bereits 2015 über den japanischen Elektronikkonzern Hitachi berichtet, in dem Arbeitnehmer mit Arbeitsanweisungen eines intelligenten Systems konfrontiert würden. Mittlerweile gehören durch Computer erteilte Weisungen auch in Deutschland in vielen Unternehmen zum Alltag, etwa in der Logistikbranche, in der Routen von einer Software geplant und bestimmten Fahrern zugeteilt werden.
Viele Berufstätige trauen Künstlicher Intelligenz (KI) zu, ihren Arbeitsalltag zu verbessern. So wünschen sich in einer Bitkom-Umfrage 44 Prozent der 515 befragten berufstätigen Bundesbürger, dass eine KI den eigenen Vorgesetzten unterstützt, etwa mit automatischen Analysen für schnellere und bessere Entscheidungen. 30 Prozent würden den eigenen Chef gerne komplett durch KI ersetzen. Künstliche Intelligenz kommt zudem nicht nur im laufenden Arbeitsverhältnis, sondern bereits bei der Auswahl und Einstellung neuer Arbeitnehmer zum Einsatz. Knapp 10 Prozent der 1000 größten in Deutschland operierenden Unternehmen hatten im Jahr 2020 ein digitales Auswahlsystem im Einsatz. Circa 80 Prozent gehen von einem in Zukunft verstärkten Einsatz von „Robo Recruiting“ aus. Zahlreiche Startups versprechen ihren Kunden eine gezieltere Auswahl der Bewerber auf der Grundlage automatisierter Stimm , Sprach- und Bildanalysen.
Aller Innovationsfreude zum Trotz kann der digitale Fortschritt in den Unternehmen nur in den Grenzen des geltenden Rechts Einzug halten. Im Anschluss an eine Darstellung der technischen Grundlagen (unter II.) untersucht der vorliegende Beitrag daher, welche Vorgaben Arbeitgeber beim Einsatz Künstlicher Intelligenz de lege lata zu beachten haben und welchen Risiken sie sich hierdurch aussetzen. Dies betrifft neben der Vorbereitung von Einstellungen und Entlassungen durch KI insbesondere den Einsatz von KI bei der Ausübung des Weisungsrechts. Dort geht es vor allem um die Frage, ob Algorithmen das jeder Direktive innewohnende billige Ermessen ausüben können (unter III. 1.). Da Grundvoraussetzung für alle Anwendungsfelder Künstlicher Intelligenz große Datenmengen sind, die von einer Software gesammelt und eigenständig ausgewertet werden (Stichwort: Big Data), stellt sich ferner die Frage nach den datenschutzrechtlichen Grenzen des Einsatzes von KI (unter III. 2.). Aufgrund ihres statistikbasierten Ansatzes sind zudem die von diskriminierenden Algorithmen ausgehenden Risiken in den Blick zu nehmen (unter III. 3.). Die Untersuchung schließt mit einem Überblick über den im April 2021 von der EU-Kommission vorgestellten Entwurf einer KI-Verordnung (unter IV.).
II. Technische Grundlagen Künstlicher Intelligenz
Bei Künstlicher Intelligenz handelt es sich um einen Sammelbegriff ohne festen Bedeutungsgehalt. Eine der ersten Definitionen stammt von dem Informatiker John McCarthy, der den Begriff „Artificial Intelligence“ bereits im Jahr 1955 in einem Förderantrag für die Dartmouth Conference verwendete. Das Ziel Künstlicher Intelligenz beschrieb McCarthy darin, Maschinen zu entwickeln, die sich so verhielten, als verfügten sie über Intelligenz. Diese Annäherung ist einprägsam, jedoch wenig konturenreich. Denn schon abseits jedes „Künstlichen“ ist umstritten, wodurch sich Intelligenz auszeichnet. Nähert man sich von der Wortbedeutung des lateinischen intellegere (u.a. erkennen, merken, verstehen), ist der Ausgangspunkt Künstlicher Intelligenz in solchen Algorithmen zu sehen, die in Eingangsdaten selbstständig Muster, Beziehungen und Gesetzmäßigkeiten erkennen und nutzbar machen. Ein entsprechendes Verständnis legt die vom Deutschen Bundestag eingesetzte Datenethikkommission ihrem Abschlussbericht zugrunde:
„Wir verstehen ‚Künstliche Intelligenz‘ in diesem Zusammenhang als Sammelbegriff für diejenigen Technologien und ihre Anwendungen, die durch digitale Methoden auf der Grundlage potenziell sehr großer und heterogener Datensätze in einem komplexen und ...
