Personalwirtschaft: Frau Sloane, als Soziologin haben Sie in einem interdisziplinären Forschungsteam untersucht, inwieweit eine KI bei der Personalauswahl stabile Analysen durchführen und Vorhersagen treffen kann. Wie genau sind Sie dabei vorgegangen?
Mona Sloane: Wir haben in unserer Studie überprüft, ob KI-Systeme die Persönlichkeit von Bewerbenden immer gleich einschätzen oder ob es zwischen den Systemen oder auch bei wiederholter Analyse unterschiedliche Ergebnisse gibt.
Welche Fragen haben Sie dabei konkret interessiert?
Ermitteln verschiedene Anbieter denselben Persönlichkeitstyp für einen Bewerber oder eine Bewerberin basierend auf dessen oder deren Bewerbungsdaten? Macht es einen Unterschied, ob die KI ein Social-Media-Profil oder einen Lebenslauf mit analysiert? Spielt es für die Feststellung des Persönlichkeitstyps eine Rolle, zu welcher Zeit, die Bewerbung und in welcher Form – PDF oder Word-Dokument – hochgeladen oder verschickt wird?
Was waren Ihre Erkenntnisse?
Wir haben herausgefunden, dass die oben genannten Faktoren eine Rolle spielen, womit die Systeme im Umkehrschluss unter Umständen nicht stabil Persönlichkeitstypen ermitteln.
Ist es also besser, eine Bewerbung als PDF oder als Word-Dokument zu verschicken?
Das ist unklar, aber auch für uns nicht relevant, da wir nicht wissen, welche Persönlichkeitstypen Recruiter und Recruiterinnen für die unterschiedlichen Stellen präferieren. Wir wollten zeigen, ob mittels einer KI Persönlichkeiten valide ermittelt werden können oder nicht.
Der Algorithmus muss folglich noch verbessert werden?
Meiner Ansicht nach nicht. Es geht nicht darum, zu sagen: Der Algorithmus funktioniert nicht gut und wir müssen ihn besser machen. Vielmehr wollen wir mit der Studie zeigen, dass es eine Instabilität gibt, die in dem Konzept vorhanden ist, welches dem Algorithmus zugrunde liegt. Das wiederum passt ganz gut mit der Diskussion darüber zusammen, dass Persönlichkeit an sich auch von Psychologen nicht als bedingungslos stabil angesehen wird, sondern ständig im Wandel ist. Wenn man problematische Konzepte platt gesagt in Mathe umsetzt, dann ist es kein Wunder, wenn Quatsch dabei herauskommt.
Trotzdem sind die Persönlichkeit und Softskills der Bewerbenden für viele Recruiterinnen und Recruiter essenzielle Entscheidungsfaktoren dafür, ob jemand eingestellt wird oder nicht.
Das stimmt. Das spiegeln mir Recruiterinnen und Recruiter in meinen Gesprächen auch oft. Denn für HR ist es wichtig, dass die Bewerbenden zur Unternehmenskultur passen.
Sollten sie sich dann beim Recruiting auf das Bauchgefühl verlassen oder lieber ganz ihren Fokus von der Persönlichkeit der Bewerbenden nehmen?
Als Forscherin kann ich Ihnen darauf leider keine Antwort geben. Was ich allerdings sagen kann, ist, dass die KI das Entwicklungspotenzial der Bewerbenden nicht erkennen und keine Vorhersagen treffen kann. Aber auch Menschen können das nur bedingt. Analysen von KI und Menschen sind in dieser Hinsicht nicht stabil, ihren Einschätzungen kann nicht hundert Prozent vertraut werden. Ob man den richtigen Kandidaten in die nächste Runde gelassen hat oder eine geeignete Kandidatin eingestellt hat, weil man beide richtig eingeschätzt hat, lässt sich erst im Nachhinein sagen.
Wieso ist die KI hier limitiert?
Die KI besteht aus mathematischen Formeln, mit denen Korrelationen – also Verhältnisse – errechnet werden können. Warum es diese Verhältnisse gibt und wie ihre Wirkung ist, kann nicht ermittelt werden.
Können Sie hier ein Beispiel nennen?
2018 hatte Amazon ein Recruiting-Tool gebaut, das höchst diskriminierend war. Es basierte auf dem Wunsch, dass neue Mitarbeitende ein möglichst ähnliches Profil haben wie die erfolgreichsten Amazon-Beschäftigten. Die erfolgreichsten Mitarbeitenden wurden für die KI mit Begriffen wie „Ian“, „Football“ und angesehenen Universitäten definiert. Diese Parameter hat die KI mit Erfolg in Verbindung gebracht. Nur weil es zwischen den Begriffen und den erfolgreichsten Amazon-Mitarbeitenden eine Korrelation gibt, heißt es nicht, dass diese Person mit ihre Persönlichkeit Erfolg verspricht. Die Korrelation zeigt in diesem Fall nur, dass sie privilegiert sind.
Wofür kann eine KI im Recruiting stattdessen gut eingesetzt werden?
Meiner Meinung nach könnte eine KI gut für die Datenaufbereitung genutzt werden – gerade beim High Volume Recruiting. Resume Parsers oder Boolean Searches bei Linkedin sind sinnvoll, wenn sie nicht verzerrt und diskriminierend sind. Sie scannen Inhalte nach Keywords und legen diese Inhalte in entsprechenden Datenpools ab. ATS (Applicant Tracking Systems), ebenfalls eine Filtersoftware, die Bewerbungen nach Schlagworten, Länge der Arbeitserfahrung, frühere Arbeitgeber oder andere gewünschte Auswahlkriterien scannt und filtert, kann auch nützlich sein. In all diese Systeme können Anbieter dann Antidiskriminierungsstrategien einweben.
Wie genau kann man sich diese Antidiskriminierungsstrategien vorstellen?
Anbieter können zum Beispiel Transparenzmechanismen hinzufügen, die Recruitern deutlich machen, welche Merkmale die KI wie in die Sortierung mit einbezieht. Recruiter können den Algorithmus mehrmals laufen lassen und jedes Mal bewusst bestimmte Suchworte bevorzugen, um selbst herauszufinden, in welcher Weise der Algorithmus sortiert.
Das heißt, die KI sollte keine Entscheidungen treffen oder Empfehlungen geben, sondern nur filtern?
Genau. Recruiterinnen und Recruiter sollten eine KI nur unterstützend nutzen und sie nicht für allwissend halten. Das möchten im Übrigen auch die meisten HR-Professionals, mit denen ich im Austausch bin. Sie schauen sich den Lebenslauf trotz der Vorauswahl durch eine KI noch einmal selbst an und wollen direkt mit den Kandidaten und Kandidatinnen am Telefon sprechen, um ein Gefühl für sie zu bekommen.
Info
Für die Studie „Resume Format, Linkedin URLs and Other Unexpected Influences on AI Personality Prediction in Hiring“ hat ein interdisziplinäres Forschungsteam bestehend aus Datenwissenschaftlern, Soziologen, Psychologen und Journalisten die beiden auf Algorithmen bestehenden Systeme Humantic AI und Crystal untersucht. Ziel war es, deren mögliche Limitierungen im Bewerbungsprozess aufzuzeigen. Mona Sloane ist als Soziologin eine der Wissenschaftlerinnen, die am Forschungsprojekt beteiligt waren. Sie forscht unter anderem zum Thema Diskriminierung durch KI an der New York University und der Universität Tübingen.
Lena Onderka ist redaktionell verantwortlich für den Bereich Employee Experience & Retention – wozu zum Beispiel auch die Themen BGM und Mitarbeiterbefragung gehören. Auch Themen aus den Bereichen Recruiting, Employer Branding und Diversity betreut sie. Zudem ist sie redaktionelle Ansprechpartnerin für den Deutschen Human Resources Summit.
