Algoritmisk bias (race, køn, alder)

Informatik C · STX · C-niveau · Algoritmer og bias

💻 Algoritmisk bias (race, køn, alder)

Algoritmisk bias = systematisk skævhed i AI-modeller pga. partial træningsdata eller algoritmedesign.

Berømte eksempler: COMPAS (recidivisme-algoritme i US-domstole 2013) overvurderede sort kriminalitet 2× — ProPublica-undersøgelse 2016. Amazon rekrutterings-AI 2014-17 nedrate CV'er med "kvinde-" (kvinde-uni, kvinde-skak-klub) — trænet på 10 års overvejende mandlige ansøgere. Skrottet 2018. Google Photos 2015 mærkede sorte mennesker som "gorillaer" — Google fjernede gorilla-tagget i stedet for at fixe modellen. Apple Card 2019 gav mænd 10× højere kreditgrænse end kvinder med samme indkomst.

Ansigtsgenkendelse (Joy Buolamwini "Gender Shades" 2018): 35% fejlrate på sorte kvinder, 1% på hvide mænd → IBM, Microsoft, Amazon stoppede salg af ansigtsgenkendelse til politi 2020.

Sundhedsalgoritmer (Obermeyer 2019): kommerciel risiko-algoritme underestimerede sorte patienters behov fordi den brugte "tidligere sundhedsudgifter" som proxy → systemisk underbehandling.

Årsager: biased træningsdata (ikke-repræsentative samples), biased labels (menneskelige labelers' fordomme), biased problemdefinition (proxy-variabler korrelerer med beskyttede attributter).

Modtræk: fairness-aware ML (demographic parity, equalized odds), bias audits (NIST FRVT, EU AI Act-krav), diverse teams (rapporteret reduceret bias), algorithmic accountability (Algorithmic Justice League).

Etisk ramme: "AI rights" debat, "moralsk maskine"-eksperime

Læringsmål

• Forklare anbefalingsalgoritmer (TikTok, YouTube)
• Beskrive filterbobler og ekko-kamre
• Identificere algoritmisk bias med eksempler
• Vurdere AI-etiske dilemmaer (deepfakes, ChatGPT)
• Anvende CRAAP-test og lateral reading

Sådan kan du arbejde med emnet

• Beskriv, hvad algoritmisk bias er, og giv et konkret eksempel inden for ansættelse eller kredit
• Forklar, hvad der kan forårsage bias i et træningsdatasæt
• Diskutér, hvad der er konsekvenserne for samfundet, når biasede algoritmer tager vigtige beslutninger

Arbejd iterativt med prototyper og dokumentation. Test, evaluér og dokumentér.