Aktuelle Ausgabe

Newsletter

Abonnieren

KI-Verordnung aus der HR-Perspektive

Künstliche Intelligenz (KI) gewinnt immer mehr an Bedeutung für die deutsche Wirtschaft. Sie wird vermehrt von Unternehmen eingesetzt, um Prozesse zu vereinfachen und zu beschleunigen. Insbesondere ihr Einsatz im HR-Bereich, etwa im Rahmen von Bewerbungsprozessen, hat deutlich zugenommen. Während die Technik stetig voranschritt, stolperte das Recht bislang jedoch noch hinterher. Dies scheint sich langsam zu ändern. So hat sich die EU des Themas „Künstliche Intelligenz“ angenommen, insbesondere auch der Schaffung eines geeigneten Rechtsrahmens. Ende April 2021 legte die EU-Kommission einen „Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union“ (im Folgenden KI-Verordnung) vor – und damit den nach eigener Aussage „weltweit ersten Rechtsrahmen für KI“.

Was aber soll damit genau geregelt werden? Welche Auswirkungen für den HR-Bereich können mit der KI-Verordnung einhergehen? Die Verordnung – sollte sie in der jetzigen Fassung verabschiedet werden – wird erhebliche Auswirkungen auf Unternehmen haben, die KI in der Personalarbeit einsetzen möchten. Der nachfolgende Beitrag zeigt, worauf sich Unternehmen einstellen müssen.

Einsatz von KI im Personalwesen

KI soll das HR-Management einfacher, schneller und objektiver machen. Auch im HR-Management werden zunehmend lernende Algorithmen und ähnliche KI-Anwendungen eingesetzt. Somit können immer mehr HR-Prozesse automatisiert werden, beispielsweise die Bearbeitung von Mitarbeiteranfragen, die Suche nach geeigneten Kandidaten oder die Koordinierung von Trainingsinhalten. Darüber hinaus lassen sich Wahrscheinlichkeitsvorhersagen generieren, die bei HR-Entscheidungen hilfreich sein können. In Zukunft soll KI Unternehmen in die Lage versetzen, Vorhersagen darüber zu treffen, was passieren wird.

Allerdings haben einige Fälle in der jüngsten Vergangenheit gezeigt, dass die eingesetzte KI durchaus auch Gefahren birgt. So können Algorithmen „voreingenommen“ und diskriminierend sein. Aufgrund einer fehlerhaften Datenbasis oder falscher Programmierung können Algorithmen zu einer mittelbaren Benachteiligung von Bewerbern führen, zum Beispiel wegen ihres Geschlechts. Bekannt wurde insbesondere der Fall eines Onlineversandhändlers: Das von ihm genutzte Bewerbungstool filterte eher Bewerberinnen heraus, da der eingesetzte Algorithmus geschlussfolgert hatte, dass sich vor allem Männer für das Unternehmen begeistern und daher die geeigneteren Bewerber seien.

Die KI-Verordnung will nun einen Ausgleich zwischen Nutzen und Risiken von KI-Technologien schaffen. Ausweislich der Begründung zum Vorschlag enthält die KI-Verordnung einen Regulierungsansatz für KI, „der die Verhältnismäßigkeit wahrt und auf die Mindestanforderungen beschränkt ist, die zur Bewältigung der in Verbindung mit KI auftretenden Risiken und Problemen notwendig ist, ohne die technologische Entwicklung übermäßig einzuschränken oder zu behindern oder anderweitig die Kosten für das Inverkehrbringen von KI-Lösungen unverhältnismäßig in die Höhe zu treiben“. Der Vorschlag enthält dementsprechend harmonisierte Vorschriften für die Entwicklung, das Inverkehrbringen und die Verwendung von KI-Systemen in der Union. Hauptziel ist, durch deren Festlegung für ein reibungsloses Funktionieren des Binnenmarkts zu sorgen.

Der Vorschlag folgt einem risikobasierten Ansatz, nach dem KI-Systeme nach ihrem potentiellen Risiko in Kategorien eingruppiert werden: unannehmbares Risiko, hohes Risiko und geringes oder minimales Risiko. Verstöße gegen die Verordnung sollen – je nach Schwere – mit Bußgeldern bis zu 30 Millionen Euro oder 6% des gesamten weltweiten Vorjahresumsatzes geahndet werden.

KI-Verordnung enthält weite KI-Definition

Der KI-Verordnung liegt ein weites Verständnis von KI zugrunde. KI-Systeme werden legal definiert als „eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren.“ Zu den in Anhang I aufgeführten Techniken und Konzepten zählen das maschinelle Lernen, Logik- und wissensgestützte Konzepte sowie statistische Ansätze und bayesianische Schätz-, Such- und Optimierungsmethoden. Kritiker erkennen hier mehrere auslegungs- und konkretisierungsbedürftige Merkmale. Gewissermaßen könne man jegliche aufwendigere Software hierunter fassen, so dass mit der Definition eine gewisse Konturlosigkeit einhergehe.

Vor dem Hintergrund der weiten KI-Definition in der Verordnung, die alle Arten algorithmischer Entscheidungs- und Empfehlungssysteme erfasst, dürfte eine große Anzahl von bereits heute verwendeten HR-Systemen unter den Anwendungsbereich der Verordnung fallen. Es dürfte kaum noch ein Unternehmen geben, das nicht zumindest „einfache“ algorithmische Entscheidungssysteme im HR-Bereich einsetzt, wie etwa die die Optimierung von Stellenanzeigen oder die Analyse von Lebensläufen. Daher sind Anbieter und Nutzer gut beraten – sozusagen eine Lehre aus der DSGVO-Reform –, frühzeitig einen Compliance-Check bezüglich der eingesetzten HR-Systeme und deren Konformität mit der KI-Verordnung durchzuführen.

Info