Update vom 21. Mai 2024: Nach dem EU-Parlament haben die EU-Staaten dem AI Act zugestimmt. Es tritt im Juni 2024 in Kraft.
Im April 2021 hatte die Europäische Kommission erstmals einen Vorschlag für eine EU-Verordnung zur Künstlichen Intelligenz vorgelegt. Fast drei Jahre später kommen die Verhandlungspartner – das Europäische Parlament und der Europäische Rat – zu einem finalen Text für die Verordnung.
Auf 892 Seiten enthält das Dokument, das der Technologie-Journalist Luca Bertuzzi aus Brüssel noch vor Verabschiedung der Verordnung veröffentlichte, die gemeinsame Position von Europaparlament und EU-Mitgliedstaaten. Was bedeutet die geplante Regulierung von KI für HR? Antworten liefert Dr. Inka Knappertsbusch, Fachanwältin für Arbeitsrecht bei der Kanzlei CMS.
Personalwirtschaft: Was sind die wesentlichen Punkte der geplanten KI-Regulierung, die HRler wissen müssen?
Dr. Inka Knappertsbusch: Am wesentlichsten ist aus meiner Sicht das Grundkonzept der risikobasierten Regelungen in der Verordnung. Dazu zählt insbesondere, welche KI-Systeme welcher Risikogruppe zugeordnet werden und welche Pflichten sich aus der jeweiligen Zuordnung für Entwickler und Anwender ergeben. Viele KI-Systeme, die im HR-Bereich eingesetzt werden, gelten als Hochrisiko-KI. Gerade im Recruiting, bei Beförderungen oder im Zusammenhang mit der Beendigung von Arbeitsverhältnissen.
Wieso ist KI in HR riskanter?
Diese Systeme können erhebliche Auswirkungen auf Berufsaussichten sowie den Lebensunterhalt dieser Personen haben und die Rechte der Arbeitnehmer und Arbeitnehmerinnen erheblich beeinträchtigen. Die Pflichten für Arbeitgeber sind recht umfangreich und beinhalten unter anderem die Aufklärung gegenüber den Arbeitnehmern und Arbeitnehmervertretern, die Überwachung des KI-Systems und die Aufbewahrung von Protokollen zu den Vorgängen der KI für mindestens sechs Monate.
Bei welchen Aspekten der Verordnung hat Deutschland einen recht großen Spielraum in der nationalen Umsetzung?
Die KI-Verordnung (VO) gilt unmittelbar in den Mitgliedstaaten. Es gibt nur sehr wenige Aspekte, bei denen den Mitgliedstaaten ein Entscheidungsspielraum verbleibt. Dies gilt zum Beispiel bei Regelungen in Bezug auf biometrische Fernidentifizierungssysteme, also etwa Gesichtserkennung. Ein weiteres Beispiel sind die Bußgelder bei Verstößen gegen die KI-VO. Ähnlich wie bei der Datenschutzgrundverordnung (DSGVO) obliegt die Festsetzung von Bußgeldern den Mitgliedstaaten, auch wenn insoweit Vorgaben der KI-VO zu beachten sind. Diesbezüglich haben die Mitgliedstaaten also einen Spielraum und ich bin gespannt, wie Deutschland sich hier positionieren wird.
Was sind strittige und was sind begrüßenswerte Aspekte der KI-Verordnung für HR?
Begrüßenswert ist sicher die Idee des risikobasierten Ansatzes. Die konkrete Umsetzung hingegen ist weniger gelungen. Zum einen sind die Regelungen recht komplex und unübersichtlich, insbesondere die Abgrenzung zwischen den Risikokategorien ist nicht immer nachvollziehbar. Zum anderen sieht die KI-VO in Bezug auf den im HR-Bereich häufig vorliegenden Einsatz von Hochrisiko-KI zahlreiche Pflichten vor, die viele Arbeitgeber, besonders KMUs, vor erhebliche Herausforderungen stellen werden.
Welche Herausforderungen sind das?
Ich kenne kaum ein Unternehmen, das aktuell eine Person für die Aufsicht über die Hochrisiko-KI bereitstellen könnte, die über die erforderliche Kompetenz, Ausbildung und Befugnis sowie die erforderliche Unterstützung verfügt. Da schießt die KI-VO aus meiner Sicht deutlich über das Ziel hinaus.
Ist schon abzusehen, was das für HR Tech bedeutet? Ich denke da an vor allem sehr personenbezogene AI-Anwendungen, wie die Analyse der Gestik und Mimik eines Bewerbers oder einer Bewerberin.
Die meisten HR-Tech-Anwendungen werden entweder als Hochrisiko-KI zu behandeln oder deren Einsatz sogar verboten sein. Beispielsweise ist die Verwendung von KI-Systemen, um Emotionen einer natürlichen Person im Bereich des Arbeitsplatzes zu erfassen, verboten, es sei denn dafür bestehen medizinische oder Sicherheitsgründe. Unklar ist, ob diese Regelung auch für Bewerbungsvideos gilt. Weil diese jedoch nicht am Arbeitsplatz des Arbeitgebers erstellt werden, fallen diese KI-Systeme dann wohl eher unter Hochrisiko-KI.
Wird sich der geleakte Entwurf nochmals verändern bis zur Veröffentlichung?
Der jetzt veröffentlichte Text ist das Verhandlungsergebnis von Dezember 2023 zwischen Rat und Parlament der EU, von dem bereits bekannt war, dass eine Einigung erzielt werden konnte. Die formale Bestätigung durch die Mitgliedstaaten steht aber noch aus. Gleichwohl sind keine großen Veränderungen an dem bisherigen Text zu erwarten, sodass angenommen werden kann, dass diese Regelungen auch so kommen werden.
Ab wann werden die Vorgaben der Verordnung gelten?
Die KI-Verordnung soll diesen Sommer im Amtsblatt veröffentlicht werden und tritt dann 20 Tage nach der Veröffentlichung in Kraft. Für die Umsetzung der meisten Regelungen besteht jedoch eine zweijährige Umsetzungsfrist, also voraussichtlich bis Sommer 2026. Abweichend davon bestehen ein paar Ausnahmen, die schon eher gelten. So sind die Verbote schon sechs Monate und die Vorschriften bezüglich KI für allgemeine Zwecke zwölf Monate nach Inkrafttreten zu befolgen.
Info
Angesichts erheblicher Bedenken gegen das KI-Gesetz ringt die Bundesregierung um eine Zustimmung zu dem Vorhaben. Es geht beispielsweise um zu hohe Hürden für Unternehmen und aufgeweichte Bedingungen bei der biometrischen Überwachung. Wie das Handelsblatt aus Regierungskreisen erfuhr, drängt vor allem das von Volker Wissing (FDP) geführte Digitalministerium darauf, sich bei der Abstimmung zu enthalten. Für eine Zustimmung auf europäischer Ebene braucht es aber in der Regel die Unterstützung aller Koalitionspartner.
Den geleakten Text zur KI-Verordnung über 892 Seiten finden Sie hier. Das konsolidierte Dokument über 258 Seiten hat Dr. Laura Caroli, Senior Policy Advisor im Europäischen Parlament, hier veröffentlicht.
Die EU-Kommission hat am 24. Januar 2024 ein Maßnahmenpaket zur Unterstützung europäischer Start-up-Unternehmen und KMU bei der Entwicklung einer KI, die den Werten und Vorschriften der EU entspricht, auf den Weg gebracht. Zudem hat die Kommission am selben Tag auch eine Mitteilung veröffentlicht, in der sie ihr eigenes strategisches Konzept für die Verwendung künstlicher Intelligenz dargelegt hat. Mit dieser Strategie bereitet sie sich intern auf die Anwendung des KI-Gesetzes der EU vor.
Dieser Artikel ist am 25. Januar 2024 erschienen und wurde am 21. Mai 2024 aktualisiert.
Gesine Wagner betreut als Chefin vom Dienst Online die digitalen Kanäle der Personalwirtschaft und ist als Redakteurin hauptverantwortlich für die Themen Arbeitsrecht, Politik und Regulatorik. Sie ist weiterhin Ansprechpartnerin für alles, was mit HR-Start-ups zu tun hat. Zudem verantwortet sie das CHRO Panel.
