Diskriminierung durch KI in der Personalauswahl. Und durch menschliche Recruiter. Zwei Studien.
Menschen diskriminieren. KI aber auch. Was sagt die Wissenschaft?
Im Februar haben wir uns im Rahmen der Artikelserie "Eignungsdiagnostik kompakt" ja einmal etwas intensiver mit dem Thema "Bias" beschäftigt. Bias heißt ja zunächst einfach erst einmal "Wahrnehmungs- bzw. Beurteilungsverzerrung".
Aber der Zusammenhang mit dem Thema Diskriminierung liegt auf der Hand, denn wenn etwa sog. "Ingroup-Biases" zuschlagen, dann kann dies natürlich dazu führen, dass z.B. Männer andere Männer besser bewerten als Frauen oder dass weiße Menschen People of Colour negativer einschätzen als andere weiße Menschen.
⚖️ Und damit kommt man ggf. auch in den Bereich der Diskriminierung bzw. den Geltungsbereich des AGG.
In diesem Zusammenhang haben wir uns einmal zwei sehr bemerkenswerte Studien angeschaut.
Bei der Meta-Studie "The state of hiring discrimination: A meta-analysis of (almost) all recent correspondence experiments" (Liepens et. al.) wurde einmal untersucht, inwieweit menschliche Recruiter zu diskriminierendem Verhalten in der Personalauswahl tendieren.
Die zweite Studie "The Strange Behavior of LLMs in Hiring Decisions: Systemic Gender and Positional Biases in Candidate Selection" (Rozado) befasst sich mit der brandaktuellen Frage, inwieweit KI-Modelle, die etwa für die Lebenslaufanalyse herangezogen werden, diskriminierendes Verhalten an den Tag legen. Diese Untersuchung konzentrierte sich hierbei zunächst "nur" auf etwaige Gendereffekte, also ob Geschlechter von der KI systematisch bevor- oder benachteiligt werden.
Insb. letztgenannter Punkt ist natürlich vor dem Hintergrund der KI-Verordnung sowie der sehr spektakulären Sammelklage (Class Action Lawsuit) "Mobley gegen Workday" in den USA höchst aktuell.
Was kam heraus?
Z.B. werden weibliche Bewerbende z.T. bei der Auswahl BeVORteilt - sowohl von Menschen als auch von der KI. Wer hätte das erwartet...
👉 Was noch? Lest selbst (siehe Kommentar)! In dem Artikel findet Ihr auch die Links zu den Originalquellen.