Der Absolventenjahrgang 2026 betritt den härtesten Arbeitsmarkt seit Jahren. Die Einstellung von Berufseinsteigern zieht sich hin, während KI die Hürde, eine Bewerbung abzuschicken, auf null gesenkt hat. Ergebnis: Unternehmen erhalten fast dreimal so viele Bewerbungen auf Junior-Stellen wie noch 2022.
90 % der US-Arbeitgeber setzen KI ein, um Bewerber zu filtern und zu reihen – und die meisten greifen dafür auf dieselben wenigen Drittanbieter zurück. Das Forschungsteam von Stanford HAI verfolgte 4 Millionen Bewerbungen von 3,4 Millionen Personen, verteilt auf 150 Arbeitgeber, 1.700 Stellen und 11 Branchen. Alle wurden von demselben KI-Recruiting-Anbieter bewertet.
Der Befund ist eindeutig: KI-Recruiting-Tools sind nicht nur rassistisch voreingenommen. Weil mehrere Unternehmen denselben Algorithmus nutzen, wird ein Kandidat, der bei einem Unternehmen aussortiert wurde, auch bei allen anderen aussortiert.
40.000 Empfehlungen, die nie ankamen
Die Studie misst nachteilige Auswirkungen anhand der „Four-Fifths Rule” der US-Bundesbehörde EEOC: Liegt die Empfehlungsrate einer Gruppe unter 80 % der Rate der Gruppe mit der höchsten Empfehlungsquote, gilt die Stelle als diskriminierend. Titel VII des US-Arbeitsrechts wertet dies als ersten Anscheinsbeweis für Diskriminierung.
Ergebnis: 26 % der schwarzen und 15 % der asiatischen Bewerber bewarben sich auf Stellen, bei denen die KI ihre ethnische Gruppe benachteiligte. Würde die KI schwarze und asiatische Kandidaten im gleichen Verhältnis empfehlen wie die Gruppe mit der höchsten Quote – in der Regel Weiße –, wären 40.000 zusätzliche Bewerbungen in die nächste Runde gelangt.
Vorsicht vor einer statistischen Falle. Mischt man die Empfehlungsergebnisse aller Stellen zusammen und behandelt den Anbieter als „einzigen riesigen Einstellungsprozess”, zeigt sich auf den ersten Blick keine Benachteiligung. Der Grund: Die KI empfiehlt schwarze Bewerber in manchen Berufen (etwa Lager) überdurchschnittlich oft und in anderen (etwa Finanzen) fast gar nicht. Im großen Topf heben sich beide Muster gegenseitig auf – alles wirkt fair. Betrachtet man die Stellen einzeln, ist die Diskriminierung da.
Algorithmische Monokultur
„Algorithmische Monokultur” ist ein theoretisches Konzept, das das Forschungsteam zuvor entwickelt hatte: Wenn mehrere Entscheidungsträger denselben Algorithmus einsetzen, werden dessen Verzerrungen systematisch verstärkt. Diese Studie ist die erste, die diese Hypothese mit echten Daten überprüft.
Der zentrale Befund: Wenn Bewerber sich auf mehrere Stellen bewerben, die alle vom selben KI-Anbieter gefiltert werden, ist die Wahrscheinlichkeit, bei allen Stellen abgelehnt zu werden, signifikant höher als bei statistisch unabhängigen Entscheidungen. Von den Bewerbern, die vier Bewerbungen einreichten, wurden 10 % vollständig abgelehnt.
Das Team verglich dies mit den bisher umfangreichsten Daten zu Einstellungsentscheidungen: 83.000 Bewerbungen, die im gleichen Zeitraum an 108 Fortune-500-Unternehmen gingen – ohne Filter nach KI-Nutzung. In dieser Kontrollgruppe entsprach der Anteil der durchgängig Abgelehnten exakt der Erwartung bei statistisch unabhängigen Entscheidungen.
Anders gesagt: Die Marktkonzentration ist die entscheidende Variable. Dominiert ein einzelner KI-Recruiting-Anbieter die Vorauswahl in einer Branche, steigt die Gefahr, dass Kandidaten systematisch aussortiert werden.
Das statistische Spiel der Anbieter
Die Studie deckt zudem eine methodische Lücke auf, mit der Anbieter Diskriminierungsvorwürfe umgehen.
Mischt man sämtliche von einem Anbieter bearbeiteten Stellen zu einer Gesamtbewertung, gleichen sich die Diskriminierungsmuster verschiedener Berufsfelder gegenseitig aus. Die Gesamtzahl wirkt unproblematisch. Dabei wird ein grundlegender Punkt übersehen: Bewerber bewerben sich nicht bei einem „Anbieter”, sondern auf konkrete Stellen. Dass jemand für eine Lagerstelle empfohlen, für eine Finanzstelle aber abgelehnt wird – diese beiden Ergebnisse „mitteln” sich in keiner Lebenswirklichkeit heraus. Es sind verschiedene Biografien.
Diese Lücke existiert auch auf rechtlicher Ebene. Die EEOC bewertet nachteilige Auswirkungen normalerweise stellenbezogen. KI-Anbieter können jedoch argumentieren, man müsse das „Gesamtsystem” bewerten – alle Stellen zusammenwerfen, um Diskriminierungssignale „herauszumitteln”.
Drei Eigenschaften, die nicht zusammen auftreten sollten
Das Forschungsteam brachte die Problemstruktur auf einen Satz: „KI-Recruiting-Tools weisen drei Eigenschaften auf, die eigentlich nicht gleichzeitig existieren sollten: weite Verbreitung, hohe Tragweite und äußere Intransparenz.”
Wenn ein automatisiertes Entscheidungssystem
- 90 % aller Arbeitgeber abdeckt,
- darüber entscheidet, ob jemand überhaupt ein Vorstellungsgespräch bekommt,
- und seine Funktionslogik von außen nicht einsehbar ist,
dann steht man vor einem Machtknoten ohne Gegengewicht – einer Blackbox mit Kontrollfunktion.
Der vielleicht wertvollste Beitrag dieser Studie liegt darin, dass sie quantifiziert, wie Marktkonzentration individuelle Verzerrungen zu systematischer Ausgrenzung aufbläht. „KI ist voreingenommen” ist eine Binsenweisheit. Aber „ein und derselbe Algorithmus sorgt dafür, dass ein Mensch bei allen Unternehmen gleichzeitig durchs Raster fällt” – das ist die neue, die unbequeme Frage.
Neue Variablen: LLMs und KI-Agenten
Das Forschungsteam erwähnt im Fazit einen beachtenswerten Trend: Die nächste Generation von Recruiting-Tools setzt auf Sprachmodelle und KI-Agenten. Diese Modelle sind leistungsfähiger, ihr Verhalten ist unberechenbarer, und die Erkennung von Verzerrungen lässt sich noch schwerer standardisieren.
Angesichts der rasanten Fortschritte aktueller LLMs bei Codegenerierung und Texterstellung verschiebt sich das Screening von „Keyword-Matching plus strukturiertem Scoring” hin zu „dialogbasierter Bewertung und holistischem Urteil”. Letzteres ist weit schwerer zu auditieren – denn die Entscheidungsgrundlage besteht nicht mehr aus einzelnen Bewertungsdimensionen, sondern aus einem Ende-zu-Ende-Blackbox-Prozess.
Das Material dieses Artikels stammt aus öffentlichen Informationen und Community-Diskussionen. Tiefere Praxiserfahrung zu diesem Thema? Hinweise auf Lücken sind willkommen.