Auch HR-Abteilungen setzen zunehmend KI-gestützte Tools, etwa beim Bewerber-Scoring, ein, z.B. um den Auswahlprozess zu beschleunigen, die Vorauswahl objektiver zu gestalten und den Mitarbeitenden zu finden, der vermeintlich am besten zum Unternehmen passt. Übersehen wird jedoch häufig, dass die von der KI generierten Ergebnisse maßgeblich von den Inhalten abhängen, mit denen sie trainiert wird – und die sind selten ganz neutral. Wenn also etwa historische Personaldaten für den Prozess verwendet werden, könnte sich etwa herausstellen, dass Bewerbungen von Frauen überproportional selten als „passend“ eingestuft werden. Eine Auseinandersetzung mit den geltenden rechtlichen und ethischen Standards ist daher unerlässlich.
Rechtlicher Rahmen: KI-Verordnung
HR-Anwendungen gehören zu den sog. Hochrisiko-KI-Systemen (Art. Art. 6 Abs. 2 i. V. m. Anhang III Nr. 4 AI KI-VO). Für solche KI-Systeme gelten künftig weitreichende Pflichten. Unternehmen müssen im Rahmen eines Risikomanagements nachweisen, dass sie mögliche Beeinträchtigungen (z.B. Diskriminierungen oder fehlerhafte Bewertungen) identifizieren, bewerten und minimieren. Zudem ist erforderlich, dass die für das Training verwendeten Daten repräsentativ, aktuell und frei von Verzerrungen sind. KI darf sich nicht auf historische Ungleichheiten stützen, sondern muss neutral und überprüfbar funktionieren. Ferner ist eine umfassende Dokumentation und Nachvollziehbarkeit der Systeme vorgeschrieben.
Entscheidungen müssen erklärbar und überprüfbar bleiben, auch für Personen, die selbst keine technische Expertise besitzen. Schließlich ist stets eine menschliche Aufsicht sicherzustellen. Die KI-VO erlegt damit nicht nur Herstellern bestimmte KI-bezogene Pflichten auf, sondern zieht auch für Unternehmen, die Hochrisiko-KI-Systeme einsetzen, Grenzen. Sie müssen technische Sorgfalt mit rechtlicher Verantwortung verbinden und gegenüber Behörden und Betroffenen jederzeit belegen können, dass ihre Systeme fair, sicher und rechtskonform betrieben werden. Im Falle von Verstößen drohen erhebliche Bußgelder.
Rechtlicher Rahmen: DSGVO
Aber auch die DSGVO setzt automatisierten Entscheidungen Grenzen. vgl. Art. 22 Abs. 1 DSGVO; datenschutzrechtlich zulässig ist ein solcher Einsatz nur in engen Ausnahmefällen. Und in mitbestimmten Betrieben wird zudem der Betriebsrat vor dem Einsatz von KI-gestützten HR-Anwendungen regelmäßig zu beteiligen sein (insbesondere nach § 87 Abs. 1 Nr. 6 Betriebsverfassungsgesetz), der genau prüfen wird, ob und inwieweit der Einsatz der KI neben dem Nutzen für das Unternehmen auch zu Vor-, aber v.a. auch zu Nachteilen für die Mitarbeiter führen kann. Nicht zuletzt fordert die EU-Kommission in ihren „Ethikleitlinien für vertrauenswürdige KI“ als einen Grundpfeiler die „ethische Vertretbarkeit“, aus dem für den HR-Bereich fünf Handlungsfelder abzuleiten sind: Diskriminierungsfreiheit und Fairness, Transparenz und Erklärbarkeit, Verantwortlichkeit und Kontrolle, Datenschutz und Sicherheit sowie Verlässlichkeit und Schutz vor Schäden.
Nach dem Deutschen Ethikrat soll das vor allem heißen, dass KI nur als Unterstützung und nicht als Ersatz für menschliche Entscheidungen eingesetzt wird, Verantwortungsdiffusion vermieden und Kontrollmöglichkeiten bei Menschen belassen werden.
Tipps für die Praxis
Der Spagat aus rechtlichen Anforderungen einerseits und den gebotenen ethischen Standards andererseits ist am ehesten zu schaffen, wenn sich die Unternehmen zunächst einen klaren Überblick über den aktuellen und den geplanten Einsatz von KI im HR-Bereich verschaffen, drohende Risiken identifizieren, auf dieser Basis einzelne KI-Systeme priorisieren und dann ihre Ressourcen gezielt einsetzen.
Wichtig ist zudem die Regelung der Verantwortlichkeiten: KI-Systeme brauchen feste Ansprechpartner. Hier sollten neben dem Personalwesen die Fachbereiche Datenschutz, IT, Recht und eine ausdrücklich benannte Aufsichtsperson als Bindeglied zwischen den Abteilungen eingebunden sein. „Fairness“ und „Qualität“ wiederum gebieten, dass Trainingsdaten zum KI-Einsatz regelmäßig überprüft und Ergebnisdaten ausgewertet werden. Die Anbieter von KI-Tools sollten kritisch hinterfragt und Richtlinien für die zulässige (und unzulässige) Nutzung von KI im Unternehmen eingeführt werden. Wenn die Mitarbeiter dann noch im Umgang mit KI geschult werden, entsteht ein ganzheitlicher Rahmen, der sowohl rechtliche Konformität und ethische Verantwortung sichert sowie die Akzeptanz in der Belegschaft stärkt als auch die Qualität der Personalarbeit verbessert.
