Vooroordelen in AI

Definitie

Bias in AI verwijst naar systematische fouten in AI-resultaten die worden veroorzaakt door vertekende data, gebrekkig ontwerp of maatschappelijke ongelijkheden die tot uiting komen in datasets. Dit kan leiden tot oneerlijke of discriminerende uitkomsten.

Doel

Het doel van het bestuderen van vooroordelen is om oneerlijkheid in AI-systemen te identificeren en te verminderen. Organisaties streven ernaar om rechtvaardigere modellen te ontwikkelen door deze problemen aan te pakken.

Belang

• Kan leiden tot discriminatie bij het aannemen van personeel, het verstrekken van leningen of in de gezondheidszorg als het niet wordt aangepakt.
• Ondermijnt het vertrouwen in AI-systemen.
• Vereist naleving van regelgeving in gevoelige sectoren.
• Gerelateerd aan eerlijkheid en verantwoorde AI-praktijken.

Hoe het werkt

1. Identificeer mogelijke bronnen van vertekening (gegevensverzameling, etikettering, modellering).
2. Analyseer datasets op onevenwichtigheden.
3. Pas trainingsmethoden toe die rekening houden met eerlijkheid.
4. Test de uitkomsten met eerlijkheidsmetrieken.
5. Pas het ontwerp aan en train het personeel indien nodig opnieuw.

Voorbeelden (echte wereld)

• Risicobeoordelingsinstrument COMPAS: bekritiseerd vanwege raciale vooroordelen.
• Amazon-wervingsalgoritme: afgeschaft vanwege genderbias.
• Gezichtsherkenning: staat erom bekend bepaalde demografische groepen verkeerd te classificeren.

Referenties / Verder lezen

• AI-vooroordeel — NIST.
• Fairness and Machine Learning — Barocas, Hardt & Narayanan (boek).
• Algoritmische bias — ACM FAccT-conferentieverslagen.
• Diverse AI-trainingsgegevens: de sleutel tot het elimineren van vooroordelen