Studie Gender Shades od Buolamwini & Gebru (2018) se stala jedním z nejvlivnějších článků v etice AI. Audit tří komerčních systémů rozpoznávání obličejů odhalil:
- Ženy tmavé pleti: chybovost až 34,7 %
- Muži světlé pleti: chybovost pouze 0,8 %
- Nerovnost byla intersekcionalní — klíčová byla kombinace pohlaví a barvy pleti
Dopad
Studie katalyzovala hnutí za férovost AI. Vedla k omezení prodeje systémů policii a zákazům rozpoznávání obličejů v několika městech.
Zdroj
Buolamwini, J., & Gebru, T. (2018). Gender Shades. PMLR, 81, 77-91.