Fairness in AI

Fairness in AI ist die Anforderung, dass ein KI-System Personen und Gruppen vergleichbar behandelt, besonders bei geschützten Merkmalen wie Geschlecht, Alter, Herkunft oder Behinderung. Während Bias die messbare Ungleichbehandlung im Modell beschreibt (statistische Verzerrung, etwa unterschiedliche Trefferquoten je Gruppe), beantwortet Fairness die Anschlussfrage: Welche dieser Unterschiede sind akzeptabel und welche nicht. Geprüft wird das über Fair-Metriken (Kennzahlen, die Ergebnisse zwischen Gruppen vergleichen) sowie den rechtlichen und ethischen Rahmen.

Was ist Fairness in AI?

Fairness in AI hat zwei Ebenen, die im Alltag oft vermischt werden. Die technische Ebene misst, wie unterschiedlich ein KI-Modell verschiedene Gruppen oder Personen behandelt, etwa unterschiedliche Zusage-Quoten oder Fehlerraten. Die normative Ebene entscheidet, welche dieser Unterschiede akzeptabel sind und welche als unfair gelten. Bereits die Wahl der Kennzahl (Metrik) ist eine normative Entscheidung; sie legt fest, was Fairness im konkreten System bedeutet, und schließt andere Fairness-Definitionen aus.

Der Diskurs kennt zwei Denkschulen. Group Fairness prüft gruppen-vergleichende statistische Kriterien: gleiche Trefferrate, gleiche Fehlerrate oder gleiche Score-Verteilung über sensitive Untergruppen hinweg. Individual Fairness verlangt, dass ähnliche Individuen ähnliche Vorhersagen erhalten, wobei die Ähnlichkeitsdefinition selbst eine Modellierungs-Entscheidung ist und in der Praxis selten sauber operationalisierbar bleibt. Die Mehrzahl produktiver Fairness-Prüfungen arbeitet mit Group-Fairness-Metriken, weil sie mit vorhandenen Testdaten berechenbar sind und regulatorisch anschlussfähig an Antidiskriminierungs-Recht.

Die Standard-Fair-Metriken sind gruppen-basiert und beschreiben unterschiedliche Fairness-Verständnisse. Demographic Parity fordert gleiche Zulassungsraten über Gruppen hinweg, unabhängig davon, wer als „qualifiziert" gilt. Equal Opportunity fordert gleiche True-Positive-Raten über Gruppen: von den tatsächlich Qualifizierten wird in jeder Gruppe der gleiche Anteil positiv klassifiziert. Equalized Odds erweitert das um gleiche False-Positive-Raten und ist damit die strengere Bedingung. Calibration verlangt, dass bei gleichem Score in jeder Gruppe die gleiche tatsächliche Trefferrate vorliegt; sie adressiert Prognose-Konsistenz statt Zuteilungs-Gleichheit. Für LLM- und Agenten-Systeme kommen Attribute-Parity-Metriken hinzu (gleiche Verteilung von Ausgabe-Merkmalen wie Sentiment, Attribut-Zuschreibung oder Antwortlänge über Gruppen).

Diese Metriken lassen sich nicht gleichzeitig erfüllen. Chouldechova (2017) und Kleinberg et al. (2017) haben gezeigt, dass Kalibrierung, Equalized Odds und Demographic Parity bei ungleichen Basisraten zwischen Gruppen mathematisch unvereinbar sind. Die Fairness-Definition ist damit immer eine normative Auswahl-Entscheidung. Interventionen greifen auf drei Ebenen: Pre-Processing balanciert die Trainingsdaten oder entfernt sensible Merkmale samt Proxies; In-Processing nimmt einen Fairness-Constraint in die Zielfunktion auf (adversarial debiasing, fairness-constrained optimization); Post-Processing setzt gruppen-spezifische Schwellwerte über Threshold Optimizer oder Reject-Option Classification.

Regulatorisch verankert der EU AI Act für Hochrisiko-Systeme Fairness-Anforderungen in Artikel 10 (Datenqualität) und Artikel 15 (Genauigkeit und Robustheit) als Teil des Risk-Management-Systems. DSGVO Artikel 22 schränkt automatisierte Einzelentscheidungen ein. Das deutsche AGG (Allgemeines Gleichbehandlungsgesetz) und das EU-Antidiskriminierungs-Recht setzen die materielle Grenze für geschützte Merkmale. NIST AI RMF führt Fairness in der Manage-Funktion mit Rückgriff auf SP 1270 (Bias-Kategorien); ISO/IEC TR 24028 liefert die international abgestimmte Terminologie.

Abgrenzung zu Bias, Explainable AI, Responsible AI und Diskriminierung

Fünf verwandte Begriffe werden im Alltag oft synonym gebraucht, adressieren aber unterschiedliche Ebenen.

Bias ist die technische Ursache, Fairness das normative Ziel. Bias beschreibt die messbare Verzerrung; Fairness beantwortet die Frage, ob diese Verzerrung akzeptabel ist. Ein Modell kann nach einer Fair-Metrik unfair und nach einer anderen fair sein; die Metrik-Wahl selbst ist bereits eine Fairness-Entscheidung.

Explainable AI liefert die Nachvollziehbarkeit einer einzelnen Entscheidung (welche Merkmale haben wie beigetragen). Fairness bewertet, ob die entstandene Verteilung über Gruppen akzeptabel ist. XAI ist Voraussetzung für Fairness-Diagnose, aber ersetzt keine Fair-Metrik: eine erklärbare Entscheidung kann unfair sein, und eine faire Verteilung kann aus einem unerklärlichen Modell stammen.

Responsible AI ist der normative Überbegriff für Fairness, Transparenz, Rechenschaft, Sicherheit, Datenschutz und Robustheit. Fairness ist darin eine von mehreren Säulen. Diskriminierung ist die rechtliche Kategorie: Verstoß gegen AGG oder EU-Antidiskriminierungs-Recht. Unfairness im technisch-normativen Sinn ist nicht automatisch Diskriminierung; Diskriminierung setzt einen rechtlich geschützten Merkmalskreis voraus und ist justiziabel. Ein Modell kann statistisch unfair sein, ohne juristisch diskriminierend zu wirken, und umgekehrt kann eine formal gruppen-neutrale Metrik über Proxy-Merkmale (Postleitzahl, Berufsgruppe, Sprachstil) trotzdem eine rechtlich relevante Benachteiligung erzeugen.

Beispiel: Kreditscoring mit Equal Opportunity und LLM-basierter HR-Assistent

Ein Kreditscoring-Modell klassifiziert Antragsteller in „bewilligt" und „abgelehnt". Bei der Fairness-Prüfung liefert Equal Opportunity eine gruppen-spezifische True-Positive-Rate: von den tatsächlich rückzahlungsfähigen Frauen werden 62 Prozent zugelassen, von den tatsächlich rückzahlungsfähigen Männern 78 Prozent. Die Differenz von 16 Prozentpunkten ist die Fairness-Lücke. Das Team entscheidet, Post-Processing anzuwenden; ein Threshold Optimizer setzt gruppen-spezifische Score-Schwellwerte, um Equal Opportunity innerhalb einer 5-Prozent-Toleranz zu erreichen. Alternative Interventions-Wege (Pre-Processing über Rebalancing der Trainingsdaten, In-Processing über einen Fairness-Constraint in der Zielfunktion) werden im Model Card mit ihren Trade-Offs dokumentiert. Für ein Hochrisiko-System nach EU AI Act sind Metrik-Wahl, Toleranzband und Interventions-Entscheidung Teil der Risk-Management-Akte.

Ein LLM-basierter HR-Assistent generiert Bewerber-Zusammenfassungen. Ein kontrafaktischer Test mit identischem Lebenslauf und variiertem Namen zeigt, dass männlich konnotierte Namen häufiger technische Attribute erhalten (analytisch, führungsstark) und weiblich konnotierte Namen häufiger soziale Attribute (teamfähig, kommunikativ). Die relevante Fair-Metrik ist Attribute Parity, gemessen über die Verteilung der Attribut-Klassen pro Gruppe. Der Interventions-Weg liegt selten am Modell selbst; sinnvoller sind Prompt-Vorlagen ohne demografisch aufgeladene Signale, RAG-basierte Extraktion strukturierter Fakten aus dem Lebenslauf und eine Regression-Suite mit kontrafaktischen Prompts bei jedem Modell-Update. Guardrails allein verhindern den Effekt nicht, weil die Attribut-Zuschreibung im Rahmen der zulässigen Antwortpolitik bleibt.