Welche Rechtslücken gibt es beim Einsatz von KI?

Voraussichtlich in diesem Sommer ist mit dem Entwurf eines neuen Beschäftigtendatenschutzgesetzes des Bundesministeriums für Arbeit und Soziales (BMAS) zu rechnen. Darin soll auch die Nutzung von Künstlicher Intelligenz (KI) im Arbeitsverhältnis geregelt werden. Vor allem bei den Themen Überwachung am Arbeitsplatz, Bewerberauswahl und Leistungsbeurteilung gibt es viele offene Fragen. Bereits Ende vergangenen Jahres veröffentlichte das Hugo Sinzheimer Institut für Arbeits- und Sozialrecht (HSI) ein Rechtsgutachten, in dem Dr. Bernd Waas, Professor für Arbeitsrecht und Bürgerliches Recht an der Goethe-Universität Frankfurt am Main auch die arbeitsrechtlichen Probleme im Zusammenhang mit KI analysiert. Wir haben für Teil 46 der Kolumne „So ist’s Arbeitsrecht“ mit Jan Tibor Lelley, Fachanwalt für Arbeitsrecht und Partner bei der Wirtschaftskanzlei BUSE, über das Gutachten und KI-Rechtslücken gesprochen.

Personalwirtschaft: Herr Lelley, wie schätzen Sie das Gutachten ein?
Jan Tibor Lelley: Es ist ein verdienstvolles Gutachten, das viele wichtige Aspekte der Thematik aufgreift und verdeutlicht, wo in Sachen Rechtsschutz Nachholbedarf besteht. Ich finde die Ausgewogenheit des Gutachtens wertvoll, denn man sollte der KI weder zu blauäugig begegnen, noch sollte man sie unterschätzen. Denn dieser technologische Fortschritt ist gekommen, um zu bleiben, und er hat viele positive Auswirkungen. Ich bin zwar nicht in allen Details einer Meinung mit Professor Waas, aber bei den vielen Punkten, die sein Gutachten abdeckt, muss man das auch nicht sein.

Welche Punkte greift das Gutachten denn konkret auf?
Zum einen das große Thema Datenschutz, das bei KI immer aufkommt. Selbstlernende Algorithmen beruhen darauf, dass sie Unmengen von Daten verarbeiten. Eine zentrale rechtliche Vorgabe des Datenschutzes ist aber die Datensparsamkeit. Das ist erst einmal ein Widerspruch. Bei dem Leitsatz „So viel wie nötig, so wenig wie möglich“ stellt sich daher die Frage, wie viel bei Big Data denn nötig ist. Sind personenbezogene Daten anonymisiert, gibt es datenschutzrechtlich kein Problem, aber das wird oft außer Acht gelassen. Die fehlende Anonymisierung wird daher von Betriebsräten häufig kritisiert.

Personenbezogene Daten enthalten häufig Angaben zu Alter, Name oder Geschlecht. Bei dem Schutz vor KI geht es daher häufig um Schutz vor Diskriminierung. Auch in dem Gutachten?
Ja, dieses potenzielle Problem wird auch erwähnt. Denn es besteht die Gefahr, dass die eingesetzte HR-Software vom Anbieter unbewusst mit Daten gefüllt wurde, die einen sogenannten Bias – also eine Voreingenommenheit beispielsweise gegenüber bestimmten Ethnien – beinhalten. Manche Unternehmen befürchten, dass sie sich damit quasi „die Diskriminierung ins Haus holen“. Waas benennt dieses Vorgehen als Rückwärtsgewandtheit oder auch Vergangenheitsbezogenheit der Daten. Die KI galt lange Zeit als Heilsbringer, weil sie nicht unsere menschlichen Fehler hat. Doch wenn wir diskriminierende Daten einspeisen, reproduziert sie unsere Fehler einfach. Das muss rechtlich geregelt werden.

Ohne den Menschen funktioniert die Maschine also nicht?
Nein, und das ist ein weiterer Punkt in der rechtlichen Debatte um KI: Wer trifft am Ende die Entscheidungen? Im Bewerbungsverfahren ist die Versuchung groß, die KI nicht nur analysieren zu lassen, wer der beste Bewerber oder die beste Bewerberin ist, sondern darauf dann auch blind zu vertrauen. Sie nimmt der HR-Abteilung eine Menge an Arbeit ab, wenn man sie lässt. Das blinde Vertrauen ist durch das Recht auf menschliche Überprüfung und das Letztentscheidungsrecht der Datenschutzgrundverordnung (DSGVO) aber bereits geregelt und untersagt.

Einfacher ist der Einsatz von KI ohnehin bei HR-Prozessen, bei denen gar keine Entscheidung getroffen wird.

Jan Tibor Lelley, BUSE

Zum Beispiel?
Eine Aufgabe von HR ist es auch, allerlei Fragen von neuen Mitarbeitenden oder der bestehenden Belegschaft zu Arbeitsverträgen und Sonstigem wie etwa Reisekosten zu beantworten. Das sind häufig sich wiederholende Fragen, deren Beantwortung viel Zeit kostet. An dieser Stelle kann die KI aus der Anfrage heraus erkennen, um welches Thema es geht, und die Person mit einer Antwort versorgen.

Das Gutachten geht auch auf die Plattformarbeit ein. Worum geht es dabei, und wie hängt diese mit KI zusammen?
Bei der Plattformarbeit werden Arbeitsaufträge meist durch Apps an Beschäftigte vermittelt. Also etwa eine Essenslieferung, die von sogenannten „Ridern“ von den Restaurants oder Lagern zu den Kundinnen und Kunden gefahren wird. Diese Formen der Beschäftigung sind technologiebasiert, man nennt das „Management by Algorithm“.

Was bedeutet das?
Nicht der Vorgesetzte sagt, wer was wohin bringen soll, sondern allein der Algorithmus. Die Software entscheidet damit über wesentliche Arbeitsbedingungen, auch oft über das Entgelt. Das Gutachten stellt fest, dass der Mensch nicht Opfer der Technologie werden darf. Das ist ja selbstverständlich. Es ist deswegen ein eigenständiger arbeitsrechtlicher Problembereich, weil oft unklar ist, ob die Menschen, die dort arbeiten, Selbstständige oder Arbeitnehmer sind.

Sollte das nicht durch den Arbeitsvertrag klar sein?
Viel spricht dafür, dass sie keine Arbeitnehmer sind, beispielsweise das sich verändernde Entgelt und das Fehlen eines klassischen Betriebs. Und arbeitet die Person zum Beispiel nur für einen Lieferdienst, sind wir oft in der Scheinselbstständigkeit. Also werden die Personen in einigen Plattform-Unternehmen eben doch befristet angestellt, was dann in manchen Fällen zu Mitbestimmungsstreitigkeiten führte.

Apropos Mitbestimmung: Für wie realistisch halten Sie es, dass Betriebsräte für die Kontrolle einer KI verantwortlich sind?
Wo immer sich der Einsatz von KI auf die Belegschaft auswirkt, hat der Betriebsrat im Rahmen des Betriebsverfassungsgesetzes mitzureden. Diese Technologien können aber hochkomplex sein und erfordern Fachwissen in der Informatik. Bei dem jetzigen Wissensstand der meisten Betriebsräte sehe ich nicht, dass sie Gefahren oder Potenziale vorab einschätzen können.

Eine Stelle im Gutachten überrascht: Waas befürchtet durch KI eine Arbeitsverdichtung. Aber heißt es nicht immer, dass sie uns Arbeit abnehmen wird?
Es klingt widersprüchlich, aber ich beobachte das in der Praxis auch. Die schnellere Datenverarbeitung, die ohne KI mehrere Tage oder Wochen dauern würde, verdichtet dann die Arbeit an der Stelle, wo tatsächlich eine menschliche Arbeitskraft sitzt. Die Schlagzahl erhöht sich, und das kann zu mehr Stress führen. In der Logistik, zum Beispiel bei Amazon, gibt die Technologie den Lagermitarbeitenden immer weiter Anweisungen und überwacht deren Arbeitsschritte. Das wurde von einem Verwaltungsgericht kürzlich als rechtmäßig erachtet, auch wenn das Urteil noch nicht rechtskräftig ist.

Was passiert, wenn die KI Fehler macht?
Wer haftet, wenn ein Produkt fehlerhaft ist, wird schon seit vielen Jahren diskutiert – auch vor der KI. Die klassische Produkthaftung existiert ja bereits. Im Falle der KI gibt es meiner Ansicht nach zwei Möglichkeiten, wer in Haftung genommen werden kann: die Menschen, die es programmiert haben, oder diejenigen, die den Einsatz der KI verwalten. Das ist eigentlich eindeutig, denn den KI-Systemen kann logischerweise keine Rechtsfähigkeit zugesprochen werden. Es gibt bereits eine neue EU-Richtlinie zur KI-Haftung, die sich aber noch im europäischen Gesetzgebungsverfahren befindet.

Dieses Interview ist zuerst in unserem Juli-/August-Heft erschienen. Werfen Sie einen Blick in die Ausgabe, die Sie hier als E-Paper lesen können – den ersten Monat sogar kostenlos.

Gesine Wagner

Gesine Wagner betreut als Chefin vom Dienst Online die digitalen Kanäle der Personalwirtschaft und ist als Redakteurin hauptverantwortlich für die Themen Arbeitsrecht, Politik und Regulatorik. Sie ist weiterhin Ansprechpartnerin für alles, was mit HR-Start-ups zu tun hat. Zudem verantwortet sie das CHRO Panel.