Bias im Background Check: Wie diskriminierungsfreies Screening funktioniert
Background Checks stehen an einer rechtspolitisch sensiblen Stelle des Einstellungsprozesses: Sie sollen Risiken reduzieren, treffen Aussagen über die Integrität einer Person und beeinflussen maßgeblich die Entscheidung über Job und Nicht-Job. Gleichzeitig bergen sie ein erhebliches Diskriminierungspotenzial – und zwar nicht nur dort, wo bewusst diskriminiert wird, sondern gerade dort, wo standardisierte Prozesse oder algorithmische Systeme unbewusste Voreingenommenheit replizieren und skalieren. Für HR-Verantwortliche in DACH-Unternehmen entsteht damit ein Spannungsfeld, das durch drei Rechtsrahmen aufgespannt wird: das Allgemeine Gleichbehandlungsgesetz (AGG), die DSGVO mit ihrem Verbot automatisierter Einzelentscheidungen in Art. 22 DSGVO und der seit August 2024 stufenweise anwendbare EU AI Act (Verordnung (EU) 2024/1689), der HR-bezogene KI-Systeme als Hochrisikosysteme einstuft.
Dieser Beitrag beschreibt, welche Bias-Formen im Background Check empirisch auftreten, welche rechtlichen Grenzen gelten, welche Maßnahmen technisch und organisatorisch wirksam sind und welche zehn Fragen jeder HR-Verantwortliche einem Screening-Anbieter stellen sollte, bevor er das Tool in den Produktivbetrieb überführt.
Was das AGG konkret verbietet
Das AGG ist der zentrale nationale Umsetzungsakt der europäischen Antidiskriminierungsrichtlinien. Nach § 1 AGG ist das Ziel, Benachteiligungen aus Gründen der Rasse oder wegen der ethnischen Herkunft, des Geschlechts, der Religion oder Weltanschauung, einer Behinderung, des Alters oder der sexuellen Identität zu verhindern oder zu beseitigen. § 7 AGG enthält das eigentliche Benachteiligungsverbot, das nach § 6 AGG auch Bewerber erfasst. Kern für Background-Check-Prozesse ist § 22 AGG: Wenn im Streitfall die oder der Beschäftigte Indizien beweist, die eine Benachteiligung vermuten lassen, trägt die Gegenseite die Beweislast dafür, dass kein Verstoß gegen die Bestimmungen zum Schutz vor Benachteiligung vorgelegen hat.
Die praktische Wirkung dieser Beweislastumkehr wird unterschätzt. Ein Bewerber mit nicht-deutsch klingendem Namen, der nach einem Background Check abgelehnt wird, muss nicht nachweisen, dass das Tool diskriminiert hat. Er muss lediglich Indizien vortragen – etwa statistische Unterschiede in den Ablehnungsquoten –, und der Arbeitgeber steht in der Pflicht, das Gegenteil zu belegen. Wer hier ohne dokumentierte Testmetriken operiert, hat schlicht keine Verteidigungsposition.
Welche Bias-Formen in Background Checks auftreten
Bias im Screening ist kein monolithisches Phänomen. In der empirischen Forschung und in aufsichtsbehördlichen Prüfungen sind vier Muster besonders häufig dokumentiert:
Name-Based Bias: Algorithmen und manuelle Rechercheure gleichen Namen gegen öffentliche Datenbanken ab. Häufige Namen in bestimmten ethnischen Gruppen erzeugen mehr False-Positive-Treffer, weil Namensähnlichkeiten häufiger auftreten. Ein Mohammed Ahmed hat statistisch mehr Namensträger in Watchlists als ein Sebastian Meier, ohne dass das über die Person selbst irgendetwas aussagt.
Geographic Bias: Adressen in bestimmten Postleitzahlenbezirken werden von Kreditbewertungssystemen oder Risk-Scoring-Modellen schlechter bewertet. Dies kann über die Proxy-Variable „Wohnort" zu einer mittelbaren Diskriminierung nach § 3 Abs. 2 AGG führen.
Socioeconomic Bias: Lücken im Lebenslauf, ungewöhnliche Bildungswege oder Wechsel zwischen atypischen Beschäftigungsverhältnissen werden in automatisierten Plausibilitätsprüfungen als Risikomerkmale interpretiert. Diese Muster korrelieren systematisch mit sozialer Herkunft.
Adverse-Media-Over-Coverage: Medienscreening erfasst Personen, über die in Medien berichtet wird. In Ländern mit freier Presse und geringer Pressefreiheit divergiert die Berichtsdichte drastisch. Ein Bewerber aus einem hoch-medialisierten Umfeld produziert mehr Treffer – auch positive oder neutrale – als einer aus einem datenarmen Raum.
DSGVO Art. 22: Grenzen automatisierter Entscheidungen
Die DSGVO verbietet in Art. 22 Abs. 1 Entscheidungen, die ausschließlich auf einer automatisierten Verarbeitung beruhen und der betroffenen Person gegenüber rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich beeinträchtigen. Eine Einstellungsentscheidung fällt unzweifelhaft unter diese Norm. Der EuGH hat mit Urteil vom 7. Dezember 2023 (C-634/21, SCHUFA Holding) klargestellt, dass bereits das Erstellen eines Wahrscheinlichkeitswerts, der von Dritten als tragende Grundlage für Entscheidungen herangezogen wird, eine automatisierte Entscheidung im Sinne von Art. 22 darstellen kann.
Für Background-Check-Tools bedeutet dies konkret: Wenn das Tool einen Risiko-Score ausgibt und dieser Score faktisch die Einstellungsentscheidung determiniert, ist der Anwendungsbereich von Art. 22 eröffnet, auch wenn formal ein Mensch am Ende „klickt". Die Ausnahmen in Art. 22 Abs. 2 – Vertragserforderlichkeit, Rechtsvorschrift, ausdrückliche Einwilligung – greifen nur unter engen Voraussetzungen. Ausdrückliche Einwilligung im Bewerbungsverhältnis ist wegen des strukturellen Ungleichgewichts nach Art. 4 Nr. 11 DSGVO und § 26 Abs. 2 BDSG kritisch zu beurteilen. Die verbleibende Praxisvariante ist damit: das Tool bereitet Entscheidungen vor, aber ein Mensch prüft substanziell und kann ohne Weiteres abweichen.
EU AI Act: Hochrisiko-KI in HR
Der EU AI Act stuft in Anhang III Nr. 4 KI-Systeme, die bei der Auswahl von Bewerbern oder zur Bewertung von Kandidaten eingesetzt werden, als Hochrisiko-Systeme ein. Die Anforderungen an Hochrisiko-Systeme sind substantiell. Besonders relevant:
Art. 14 AI Act – Menschliche Aufsicht: Hochrisiko-Systeme müssen so konstruiert sein, dass sie von natürlichen Personen wirksam überwacht werden können. Die Aufsicht muss darauf abzielen, Risiken für Gesundheit, Sicherheit und Grundrechte zu verhindern oder zu minimieren. Die Aufsichtspersonen müssen die Fähigkeiten und Grenzen des Systems verstehen, einen gegebenenfalls auftretenden Automation Bias erkennen und die Systemausgaben korrekt interpretieren können.
Art. 26 AI Act – Deployer-Pflichten: Wer ein Hochrisiko-System einsetzt – das sind in der Regel die Arbeitgeber selbst –, trifft eigenständige Pflichten. Dazu zählen die zweckkonforme Nutzung gemäß Gebrauchsanweisung, die Sicherstellung menschlicher Aufsicht durch qualifizierte Personen, die Überwachung des Betriebs und die Meldung schwerwiegender Vorfälle an den Anbieter und gegebenenfalls an die zuständige Marktüberwachungsbehörde.
Art. 27 AI Act – Grundrechte-Folgenabschätzung: Bei Einsatz in HR-Kontexten ist vor Inbetriebnahme eine Fundamental Rights Impact Assessment durchzuführen, die insbesondere Diskriminierungsrisiken adressiert.
Die Bestimmungen zu Hochrisiko-KI werden ab dem 2. August 2026 vollständig anwendbar. Wer HR-Tools mit KI-Komponenten heute in der Beschaffung hat, muss die Konformität bis dahin sicherstellen.
Konkrete Maßnahmen gegen Bias
Die wirksamsten Gegenmaßnahmen sind nicht technologisch-exotisch, sondern organisatorisch-diszipliniert:
Blindverfahren: In der ersten Screening-Stufe werden identifizierende Merkmale – Name, Foto, Nationalität, Adresse – maskiert. Die Entscheider sehen zunächst nur die eignungsrelevanten Informationen. Erst in späteren Stufen wird die Identität entblindet.
Anonymisierte Kandidaten-Views: Moderne Screening-Plattformen bieten dedizierte Sichten, in denen sensible Kategorien ausgeblendet oder durch Platzhalter ersetzt sind. Der Hiring Manager entscheidet auf Basis der standardisierten, vergleichbaren Information.
Audit-Logs: Jede Einsichtnahme, jede Entscheidung, jede manuelle Abweichung vom Tool-Vorschlag wird protokolliert. Im Streitfall nach § 22 AGG ist das die Verteidigungsbasis.
Vier-Augen-Prinzip bei adverse Entscheidungen: Kein Tool-Vorschlag führt allein zu einer Absage. Jede negative Entscheidung wird von einer zweiten qualifizierten Person geprüft.
Kalibrierungs-Meetings: Regelmäßige Reviews von Screening-Entscheidungen im Team stellen sicher, dass Kriterien konsistent angewandt werden und individuelle Biases nicht verfestigen.
Red-Flag-Analyse: Bias in einem Screening-Tool erkennen
Woran erkennt man ein Tool, das Bias produziert? Einige Indikatoren:
Intransparente Scores: Das Tool gibt eine Zahl oder Ampelfarbe aus, ohne die zugrundeliegenden Faktoren nachvollziehbar zu machen. Wer die Entscheidungsfaktoren nicht kennt, kann Bias nicht adressieren.
Fehlende Fairness-Metriken: Anbieter, die keine Equal Error Rate, Disparate Impact Rate oder vergleichbare Metriken ausweisen, können keinen Nachweis führen, dass ihr System gleichmäßig über geschützte Gruppen funktioniert.
Proxy-Variablen: Postleitzahl, Schulabschluss, Muttersprache oder Jobhistorie können zu mittelbarer Diskriminierung führen. Werden diese Felder in Scoring-Logiken verwendet, ist höchste Vorsicht geboten.
Keine Dokumentation des Trainingsdatensatzes: KI-Modelle sind nur so fair wie ihre Trainingsdaten. Ein Anbieter, der keine Herkunftsdokumentation liefert, kann die Einhaltung von Art. 10 AI Act nicht belegen.
Testing: Wie Background-Check-Tools auf Bias geprüft werden
Die empirische Prüfung auf Bias nutzt etablierte statistische Metriken. Die zwei wichtigsten:
Die Equal Error Rate (EER) misst, ob die Rate von False-Positives und False-Negatives über geschützte Gruppen konsistent ist. Ist die EER für Gruppe A (zum Beispiel Männer) bei 3 Prozent und für Gruppe B (Frauen) bei 8 Prozent, produziert das System systematisch ungleiche Fehler. Die Disparate Impact Rate (DIR) stammt aus der US-amerikanischen Equal Employment Opportunity Commission und prüft, ob die Selektionsrate einer geschützten Gruppe mindestens 80 Prozent der Selektionsrate der Mehrheitsgruppe erreicht (Four-Fifths-Rule). Werden diese Schwellen unterschritten, liegt ein starkes Indiz für mittelbare Diskriminierung vor.
Seriöse Anbieter veröffentlichen diese Metriken in einem Model-Card- oder Transparenzbericht. Sie lassen ihre Systeme zusätzlich von unabhängigen Auditoren auf Fairness prüfen und stellen entsprechende Zertifikate zur Verfügung.
Was gilt in der Schweiz, Österreich und EU-weit?
Schweiz: Gleichstellungsgesetz und Bundesverfassung
Die Schweiz kennt kein dem AGG vergleichbares umfassendes Antidiskriminierungsgesetz, sondern sektorale Schutznormen. Zentral ist das Gleichstellungsgesetz (GlG, SR 151.1), das in Art. 3 GlG Diskriminierungen aufgrund des Geschlechts im Erwerbsleben verbietet – ausdrücklich auch bei der Anstellung. Art. 8 Abs. 2 der Bundesverfassung enthält ein breiter gefasstes Diskriminierungsverbot, das aber primär gegen den Staat wirkt. Im privatrechtlichen Arbeitsverhältnis greift daneben Art. 328 OR (Fürsorgepflicht) und Art. 328b OR für den Datenschutz im Arbeitsverhältnis. Für AI-Systeme im HR-Kontext gibt es in der Schweiz bislang kein dem EU AI Act vergleichbares Gesetz; relevant sind die allgemeinen Bestimmungen des revidierten DSG, insbesondere Art. 21 DSG zur automatisierten Einzelentscheidung, der strukturell Art. 22 DSGVO entspricht.
Österreich: Gleichbehandlungsgesetz und Schadensersatz
Österreich hat mit dem Gleichbehandlungsgesetz (GlBG, BGBl. I Nr. 66/2004) einen dem AGG strukturell vergleichbaren Rechtsrahmen. § 17 GlBG verbietet Diskriminierung aufgrund der ethnischen Zugehörigkeit, Religion, Weltanschauung, Alters und sexueller Orientierung im Arbeitsleben. Besondere praktische Bedeutung hat § 26 GlBG zu den Schadensersatzansprüchen: Bei Nichtaufnahme in ein Beschäftigungsverhältnis schuldet der Arbeitgeber mindestens einen Monatsentgelt als Entschädigung für die erlittene persönliche Beeinträchtigung. Die Gleichbehandlungskommission nach §§ 1 ff. GBK/GAW-Gesetz kann Gutachten erstatten, die in Arbeitsgerichtsverfahren Beweiswirkung entfalten. Der EU AI Act wird in Österreich unmittelbar gelten; ergänzende nationale Durchführungsregelungen sind in Vorbereitung.
EU-weit: Race Equality und Employment Equality Directive
Die europäische Antidiskriminierungsarchitektur wird primär durch zwei Richtlinien getragen: Die Race Equality Directive 2000/43/EG verbietet Diskriminierungen aufgrund der Rasse oder ethnischen Herkunft in zahlreichen Lebensbereichen, einschließlich Beschäftigung. Die Employment Equality Directive 2000/78/EG erstreckt den Schutz auf Religion, Weltanschauung, Behinderung, Alter und sexuelle Orientierung, beschränkt auf den Beschäftigungskontext. Beide Richtlinien wurden in allen Mitgliedstaaten umgesetzt; ihre Auslegung wird kontinuierlich durch den EuGH konkretisiert. Hinzu kommen die Gender-Gleichbehandlungsrichtlinie 2006/54/EG und im Feld AI die Charta der Grundrechte der EU, insbesondere Art. 21 (Nichtdiskriminierung) und Art. 8 (Datenschutz). Der EU AI Act flankiert diesen Rahmen technisch-organisatorisch; die noch in Verhandlung befindliche AI Liability Directive wird zivilrechtliche Haftungsfragen schärfen.
Praktische Checkliste: Zehn Fragen an den Tool-Anbieter
Bevor ein Screening-Tool eingeführt wird, sollten HR- und Datenschutzverantwortliche dem Anbieter folgende zehn Fragen stellen. Ausweichende Antworten sind Ablehnungsgründe.
Hochrisiko-Klassifikation: Ist das System als Hochrisiko-KI im Sinne von Anhang III AI Act klassifiziert? Liegt eine CE-Kennzeichnung und Konformitätserklärung vor?
Trainingsdatensatz: Aus welchen Datenquellen wurde das Modell trainiert? Wie wurde die Repräsentativität nach Art. 10 AI Act sichergestellt?
Fairness-Metriken: Werden Equal Error Rate und Disparate Impact Rate ausgewiesen? In welcher Frequenz werden sie aktualisiert?
Unabhängige Audits: Liegen unabhängige Audit-Berichte zu Fairness und Bias vor? Von welcher Stelle?
Menschliche Aufsicht: Wie ist die menschliche Aufsicht nach Art. 14 AI Act konkret ausgestaltet? Welche Interventionsmöglichkeiten existieren?
Transparenz der Entscheidungsfaktoren: Ist pro Entscheidung nachvollziehbar, welche Faktoren mit welchem Gewicht eingeflossen sind?
Proxy-Variablen: Welche Eingangsvariablen werden verwendet? Sind darunter solche, die als Proxy für geschützte Merkmale fungieren könnten?
Daten-Hosting und -Transfer: Wo werden die Daten verarbeitet? Bestehen Drittlandtransfers, und falls ja, auf welcher Grundlage nach Art. 44 ff. DSGVO?
Widerspruchs- und Berichtigungsrechte: Wie wird das Recht der betroffenen Person auf menschliche Überprüfung nach Art. 22 Abs. 3 DSGVO operativ umgesetzt?
Dokumentation und Audit-Log: Welche Protokollierung erfolgt? Können im Falle eines AGG-Streits die Entscheidungshistorie und der Tool-Output im Einzelfall rekonstruiert werden?
Fazit: Compliance als Produktmerkmal
Diskriminierungsfreies Screening ist kein Nebenprodukt guter Absicht, sondern das Ergebnis einer sauber gebauten Systemarchitektur, dokumentierter Prozesse und regelmäßiger Prüfung. Der Rechtsrahmen ist eindeutig: AGG, DSGVO und AI Act verlangen von Arbeitgebern, dass sie ihre Screening-Tools verstehen, kontrollieren und ihre Entscheidungen verteidigen können. Wer hier auf Black-Box-Systeme setzt, trägt das Haftungsrisiko allein – ohne dass der Tool-Anbieter in der Pflicht steht. Indicium Technologies baut Background-Check-Lösungen, die die Fairness-Anforderungen nicht als nachträgliches Add-on, sondern als Produktkern behandeln: transparente Faktoren, dokumentierte Metriken, auditfähige Prozesse.
Buche eine Demo und prüfe, wie ein diskriminierungsfreies, AI-Act-konformes Screening in Deinem Unternehmen aussehen kann.
Weiterlesen — verwandte Artikel
Nabil El Berr
