Disparate Impact
Ein rechtliches Konzept: Eine scheinbar neutrale Regel oder Praxis, die eine geschützte Gruppe unverhältnismäßig negativ betrifft.
Disparate Impact liegt vor, wenn ein neutraler Algorithmus geschützte Gruppen benachteiligt – die 80%-Regel ist der klassische Fairness-Test.
Erklärung
Die 80%-Regel (Four-Fifths Rule): Wenn die Auswahlrate einer Gruppe weniger als 80% der höchsten Gruppenrate beträgt, liegt potentieller Disparate Impact vor. In ML: Wenn ein Modell systematisch unterschiedliche Outcomes für geschützte Gruppen produziert.
Relevanz für Marketing
Kritisch für Marketing-AI: Ad Targeting, Kredit-Scoring, Recruiting-Tools – überall wo Algorithmen Zugang oder Ressourcen verteilen.
Beispiel
Ein Ad-Targeting-Algorithmus zeigt Wohnungsanzeigen seltener an Minderheiten, obwohl Ethnie kein Feature ist – Proxy-Variablen verursachen Disparate Impact.
Häufige Fallstricke
Proxy-Variablen (PLZ, Name) können Disparate Impact verursachen ohne explizite geschützte Merkmale. Schwer nachzuweisen ohne disaggregierte Daten.
Entstehung & Geschichte
Der Begriff stammt aus dem US-Arbeitsrecht (Griggs v. Duke Power, 1971). Die 80%-Regel wurde von der EEOC formalisiert. Im KI-Kontext wurde Disparate Impact durch Studien zu Facebooks Ad-Targeting (2019) und Amazon-Recruiting (2018) brisant.
Abgrenzung & Vergleiche
Disparate Impact vs. Disparate Treatment
Disparate Treatment ist absichtliche Diskriminierung (z.B. explizites Feature "Geschlecht"); Disparate Impact ist unbeabsichtigt aber systematisch.
Disparate Impact vs. Demographic Parity
Demographic Parity ist eine Fairness-Metrik; Disparate Impact ist ein rechtlicher Standard, der die 80%-Schwelle nutzt.