Algoritmisk bias og fairness

It A · STX · A-niveau · AI og maskinlæring

💻 Algoritmisk bias og fairness

Algoritmisk bias = systematisk + uretfærdig diskrimination i automatiserede beslutninger. Hvor opstår bias?1.

Trænings-data — afspejler historiske fordomme.

2.

Feature-valg — udelader vigtige variable eller bruger proxy for diskriminerende træk.

3.

Algoritmens design — optimerer på "accuracy" der ignorerer minoriteter.

4.

Brugerens fortolkning — over-tro på algoritmens output.

Kendte cases:

1.

COMPAS (USA, 2016) — risiko-vurderingsalgoritme i strafferetten. ProPublica afslørede at algoritmen 2× så ofte fejlagtigt klassificerede sorte som "højrisiko" + 2× så ofte fejlagtigt klassificerede hvide som "lavrisiko".

2.

Amazon Recruitment AI (2014-18) — automatisk CV-screening. Trænet på 10 års CV'er → flest mænd → algoritmen lærte at nedvægte CV'er med "kvinde-" ord ("women's chess club"). Skrottet 2018.

3.

Google Photos (2015) — klassificerede sorte mennesker som "gorillas". Akut PR-krise → Google fjernede "gorilla"-tag i stedet for at fixe modellen.

4.

Apple Card (2019) — kvinder fik 10-20× lavere kredit-grænser end mænd med samme indkomst. Goldman Sachs nægtede bias, men Apple forhandlede revurdering.

5.

Microsoft Tay-chatbot (2016) — lærte fra Twitter, blev racist + nazi-sympatisør på 24 timer.

6.

PredPol (predictive policing) — fokuserer politi-patrulje i historisk over-policed områder → selv-forstærkende cyklus.

7.

Ansigtsgenkendelse — MIT-studie (Buolamwini 2018) — kommercielle systemer (IBM, Microsoft, Face

Læringsmål

• Forklare hvordan bias kan opstå i træningsdata og algoritmer
• Give eksempler på konsekvenser af algoritmisk bias
• Diskutere metoder til at reducere bias i AI-systemer

Sådan kan du arbejde med emnet

• Beskriv, hvad algoritmisk bias er, og giv et eksempel fra ansættelse, kredit eller kriminalprognoser
• Forklar, hvad der er de tre fairness-definitioner (demografisk paritet, lige muligheder, kalibrering)
• Diskutér, hvad der er de etiske og juridiske konsekvenser af biasede AI-systemer

Arbejd iterativt med prototyper og dokumentation. Test, evaluér og dokumentér.