Czy wiersz może naprawić zepsuty algorytm, a artystyczny performance zmusić IBM i Microsoft do zmiany technologii? Dr Joy Buolamwini, ghańsko-amerykańska badaczka z MIT Media Lab, udowodniła, że tak!
Najpierw odkryła, że algorytmy AI do rozpoznawania twarzy były trenowane głównie na fizjonomiach białych mężczyzn. Efekt? Systemy nie rozpoznawały kobiet o ciemniejszej karnacji. Aby oprogramowanie w ogów ogóle uznało Joy za człowieka, badaczka musiała założyć białą, plastikową maskę. Dopiero wtedy system “widział” twarz na ekranie.
Ale zamiast pisać suchy raport o błędach w kodzie, Joy stworzyła wideo-performance “AI, Ain’t I a Woman?”, w którym recytowała swój poemat, podczas gdy na ekranie za nią widać, jak systemy rozpoznawania twarzy od IBM, Microsoft i Amazon błędnie klasyfikują twarze ikon czarnoskórych kobiet: Oprah Winfrey, Michelle Obamy czy Sereny Williams, określając je jako mężczyzn lub ignorując ich obecność i traktując jako element tła.
Can machines ever see my queens as I view them?
Can machines ever see our grandmothers as we knew them?
Pytała retorycznie Buolamwini, uzmysławiając ludziom, że to nie jest tylko kwestia “algorithmic bias” czy problem z odblokowaniem telefonu. Te same systemy były używane przez policję do typowania podejrzanych oraz przez działy HR do analizy kandydatów do pracy. W czym problem? Jeśli AI nie widzi Twojej twarzy lub źle interpretuje Twoje emocje, możesz nie dostać pracy lub trafić do aresztu przez pomyłkę algorytmu.
W 2020 roku, po protestach Black Lives Matter i publikacji badań Joy, giganci tacy jak IBM, Amazon i Microsoft ogłosili, że zawieszają lub całkowicie kończą sprzedaż technologii rozpoznawania twarzy policji.
Wydana w 2023 roku książka Buolamwini “Unmasking AI: My Mission to Protect What Is Human in a World of Machines” to połączenie autobiografii, raportu z badań naukowych i poetyckiego manifestu społeczno-politycznego. Joy pisze wprost, że “kodowanie to poezja w ruchu”, ale gdy kod staje się narzędziem opresji, poezja staje się narzędziem buntu.
