Wenn KI den Bewerbungsprozess übernimmt – wer prüft die KI?

KI wählt Bewerber objektiver aus als ein Mensch, weil sie keine Vorurteile hat.

Der stärkste Teil dieses Satzes ist wahr. Ein Mensch, der am Freitagnachmittag den zwanzigsten Lebenslauf liest, urteilt anders als am Montagmorgen beim ersten. Er bevorzugt unbewusst Kandidaten, die ihm ähnlich sind, dieselbe Universität, dieselbe Freizeitbeschäftigung, denselben Ton in der Bewerbung. Diese Effekte sind gut untersucht und sie kosten Unternehmen regelmäßig genau die Kandidatinnen und Kandidaten, die am besten gepasst hätten. Eine Software ermüdet nicht, hat keinen schlechten Tag, keine Sympathie für den Absolventen der eigenen Hochschule.

Der Bruch

Aber sie hat trainierte Vorurteile. Nur andere.

Wo die Verzerrung herkommt

Ein KI-System, das Bewerbungen bewertet, lernt aus vergangenen Entscheidungen. Es sucht Muster in den Lebensläufen, die früher zu Einstellungen geführt haben, und bewertet neue Bewerbungen danach, wie ähnlich sie diesen Mustern sind. Wenn die Belegschaft der letzten zehn Jahre überwiegend aus einer bestimmten Gruppe bestand, lernt das System genau das als Erfolgsmerkmal, nicht die eigentliche Eignung.

Der bekannteste öffentlich dokumentierte Fall stammt von einem Technologiekonzern, der ein internes Recruiting-System auf zehn Jahre eigener Einstellungsdaten trainierte. Die Branche war zu diesem Zeitpunkt weit überwiegend männlich besetzt, und das System übernahm dieses Muster als Erfolgskriterium. Es stufte Lebensläufe herab, die das Wort „Frauen“ enthielten, etwa in „Frauenschachclub, Kapitänin“, und bevorzugte Formulierungen, die in männlich dominierten Lebensläufen häufiger vorkamen. Das Unternehmen bemerkte den Effekt erst spät, korrigierte ihn technisch nicht zufriedenstellend und stellte das System schließlich ganz ein.

Das Beispiel ist bekannt, weil es öffentlich wurde. Die meisten vergleichbaren Effekte werden es nie, weil niemand danach sucht. Ein System, das systematisch bestimmte Namen, Postleitzahlen oder Lücken im Lebenslauf abwertet, fällt nicht auf, solange die Trefferquote insgesamt gut aussieht. Es fällt nur auf, wenn jemand gezielt prüft, wen das System aussortiert, nicht nur, wen es vorschlägt.

Postleitzahlen sind ein eigenes Problem, weil sie in Deutschland oft mit sozialer Herkunft und Migrationsgeschichte korrelieren, ohne dass ein System die Postleitzahl als solche jemals „sieht“. Es reicht, dass andere Merkmale im Lebenslauf mit der Wohngegend zusammenhängen, ein bestimmter Schultyp, ein bestimmtes Vereinsengagement, damit ein Muster entsteht, das niemand eingebaut hat und das trotzdem wirkt. Dasselbe gilt für Lücken im Lebenslauf: Ein System, das Lücken pauschal abwertet, benachteiligt strukturell Menschen mit Kindern, mit Pflegeverantwortung oder mit gesundheitlichen Ausfallzeiten, ohne dass diese Merkmale im Datensatz benannt sind.

Warum das mehr ist als ein technisches Problem

Wer in Deutschland Bewerber wegen Geschlecht, Herkunft, Alter oder Behinderung benachteiligt, verstößt gegen das Allgemeine Gleichbehandlungsgesetz, unabhängig davon, ob ein Mensch oder eine Software die Entscheidung getroffen hat. Der Gesetzgeber fragt nicht, wer die Entscheidung im Detail berechnet hat, sondern ob sie diskriminierend wirkt. Ein Unternehmen, das ein KI-System einsetzt, ohne dessen Entscheidungen zu prüfen, kann sich nicht darauf berufen, dass es die Verzerrung nicht kannte. Genau das war im öffentlich gewordenen Fall das eigentliche Versäumnis, nicht die Existenz der Verzerrung an sich, sondern dass sie über Jahre unentdeckt blieb.

Was schneller nicht automatisch gerechter macht

KI-gestützte Vorauswahl macht den Prozess fast immer schneller. Tausend Bewerbungen lassen sich in Minuten sortieren statt in Wochen. Diese Geschwindigkeit wird in Vorstandspräsentationen gern mit Fairness verwechselt, weil beides gleichzeitig eingeführt wird. Es sind aber zwei getrennte Eigenschaften. Ein System kann schneller sortieren und dabei genau dieselben Verzerrungen reproduzieren, die vorher ein einzelner Personaler hatte, nur konsequenter und in größerem Maßstab.

Was das für den Einsatz bedeutet

Wer ein KI-System für die Bewerberauswahl einsetzt, braucht eine zweite Instanz, die regelmäßig prüft, wen das System systematisch aussortiert, nicht nur, wie viele Stellen es erfolgreich besetzt hat. Das heißt konkret: Stichproben aus den abgelehnten Bewerbungen, nicht nur aus den angenommenen. Ein Vergleich, ob bestimmte Namen, Wohnorte oder Lebenslaufmuster überproportional häufig in der Ablehnung landen. Und eine Stelle, an der ein Mensch die Entscheidung des Systems tatsächlich noch ändern kann, nicht nur formal, sondern auch in der Praxis.

Genauso wichtig ist die Frage, mit welchen Daten das System ursprünglich trainiert wurde. Ein System, das auf den eigenen Einstellungsentscheidungen der letzten Jahre lernt, übernimmt automatisch jede Schieflage, die in dieser Belegschaft bereits steckt. Wer das prüfen will, muss die Trainingsdaten selbst kennen, nicht nur das fertige Modell, das ein Anbieter liefert. Bei vielen kommerziellen Systemen ist genau das schwierig, weil die Anbieter die Trainingsdaten als Geschäftsgeheimnis behandeln. Das ist kein Grund, auf die Prüfung zu verzichten, sondern ein Kriterium bei der Auswahl des Anbieters.

Ohne diese zweite Instanz übernimmt die KI nicht nur den Prozess. Sie übernimmt auch dessen alte Fehler, nur schneller und ohne dass jemand mehr erklären kann, warum eine bestimmte Bewerbung nie einen Menschen erreicht hat.

Der Aufwand dafür ist überschaubar, verglichen mit dem, was ohne ihn passiert. Eine Stichprobenprüfung im Quartal, ein festgelegter Verantwortlicher, ein dokumentierter Prozess für die Fälle, in denen ein Mensch die Entscheidung des Systems korrigiert. Das kostet Zeit, aber weniger als eine Klage oder als die Erkenntnis, zwei Jahre lang systematisch an den passenden Kandidaten vorbeigewählt zu haben, ohne es bemerkt zu haben.