Algoritmisk bias og fairness

Kommunikation og IT A · HTX · A-niveau · AI og maskinlæring

💻 Algoritmisk bias

Bias i ML opstår når modeller producerer systematisk uretfærdige resultater for bestemte grupper.

Årsager:

1. Data-bias: historiske data afspejler eksisterende diskrimination (f.eks. COMPAS kriminalitetsprognose)

2. Label-bias: menneskelige annotorer har fordomme

3. Sampling-bias: overrepræsentation/underrepræsentation i træningsdata

4. Feedback loops: biased model → biased handlinger → mere biased data

Kendte eksempler:

• Amazon-rekruttering (2018): CV-sorteringsmodel diskriminerede mod kvinder
• Ansigtsgenkendelses-software: fejlrate op til 34% for mørkhudede kvinder (Buolamwini/Gebru 2018)
• Sundhedsalgoritme (Obermeyer 2019): undervurderede sygdomsrisiko for sorte patienter

Fairness-metrikker:

• Demographic parity: lige fejlrate på tværs af grupper
• Equalized odds: lige false positive/negative rate
• Individual fairness: lignende individer behandles ens

Fairness vs. nøjagtighed: trade-off — at optimere fairness kan reducere samlet nøjagtighed.

Læringsmål

• Identificere kilder til algoritmisk bias i ML-systemer
• Beskrive mindst tre kendte eksempler på bias i praksis
• Forklare fairness-metrikker og trade-offs
• Evaluere et datasæt for potentielle bias-problemer

Sådan kan du arbejde med emnet

• Giv et eksempel på, hvordan en algoritme kan blive biased pga. skæve træningsdata
• Diskutér konsekvenserne, hvis et ansøgningssystem er biased mod en bestemt gruppe
• Foreslå en metode til at opdage bias i en model

Træningsforslag

• Analyser COMPAS-datasættet for bias med fairness-metrikker
• Se Coded Bias dokumentaren og diskuter etiske implikationer
• Kør Gender Shades-replikationsstudie på et ansigtsgenkendelses-API