Google powiedział Reuterowi w tym tygodniu, że opracowuje alternatywę dla standardowej w branży metody klasyfikacji odcieni skóry, która według rosnącego chóru badaczy technologii i dermatologów jest niewystarczające do oceny, czy produkty są stronnicze w stosunku do osób kolorowych.
Problemem jest sześciokolorowa skala znana jako typ skóry Fitzpatricka (FST), którą dermatolodzy stosują od lat 70. XX wieku. Firmy technologiczne polegają teraz na nim, aby kategoryzować ludzi i mierzyć, czy produkty, takie jak systemy rozpoznawania twarzy lub czujniki tętna smartwatcha, działają równie dobrze w różnych odcieniach skóry.
Krytycy twierdzą, że FST, który obejmuje cztery kategorie dla „białej” skóry i po jednej dla „czarnej” i „brązowej”, ignoruje różnorodność wśród ludzi kolorowych. Naukowcy z Departamentu Bezpieczeństwa Wewnętrznego USA podczas konferencji federalnych standardów technologicznych w październiku zeszłego roku zalecili porzucenie FST do oceny rozpoznawania twarzy, ponieważ słabo odzwierciedla zakres kolorów w różnych populacjach.
W odpowiedzi na pytania Reutersa dotyczące FST, Google, po raz pierwszy i wyprzedzając innych, powiedział, że po cichu dąży do lepszych środków.
„Pracujemy nad alternatywnymi, bardziej inkluzywnymi środkami, które mogą być przydatne w rozwoju naszych produktów i będziemy współpracować z ekspertami naukowymi i medycznymi, a także grupami pracującymi ze społecznościami kolorowymi” – powiedziała firma. odmawia podania szczegółów na temat wysiłków.
Kontrowersje są częścią większego rozrachunku dotyczącego rasizmu i różnorodności w branży technologicznej, w której siła robocza jest bardziej biała niż w sektorach takich jak finanse. Zapewnienie, że technologia działa dobrze dla wszystkich kolorów skóry, a także w różnym wieku i płci, nabiera coraz większego znaczenia, ponieważ nowe produkty, często napędzane sztuczną inteligencją (AI), obejmują wrażliwe i regulowane obszary, takie jak opieka zdrowotna i organy ścigania.
Firmy wiedzą, że ich produkty mogą być wadliwe w przypadku grup niedostatecznie reprezentowanych w danych badawczych i testowych. Obawy związane z FST polegają na tym, że jego ograniczona skala dla ciemniejszej skóry może prowadzić do technologii, która na przykład działa na złocistobrązową skórę, ale nie sprawdza się w przypadku odcieni czerwieni espresso.
Wiele rodzajów produktów oferuje palety znacznie bogatsze niż FST. Crayola w zeszłym roku wprowadziła na rynek 24 kredki w odcieniach skóry, a lalki Barbie Fashionistas firmy Mattel Inc w tym roku obejmują dziewięć odcieni.
Dla Google problem jest daleki od akademickiego. Kiedy firma ogłosiła w lutym, że kamery na niektórych Androidzie telefony mogą mierzyć tętno za pomocą opuszka palca, powiedział https://www.youtube.com/watch?v=scahO3HtMOM średnio błędnie o 1,8%, niezależnie od tego, czy użytkownicy mają jasną czy ciemną skórę.
Firma udzieliła później podobnych gwarancji, że typ skóry nie wpłynie w zauważalny sposób na wyniki funkcji filtrowania tła podczas wideokonferencji w Meet ani nadchodzącego narzędzia internetowego do identyfikacji chorób skóry, nieformalnie nazwanego Derm Assist.
Te wnioski wyciągnięte z testów z sześciotonowym FST.
„PUNKT WYJŚCIOWY”
Nieżyjący już dermatolog z Uniwersytetu Harvarda, dr Thomas Fitzpatrick, wynalazł skalę do personalizacji leczenia promieniowaniem ultrafioletowym łuszczyca, swędząca choroba skóry. Pogrupował skórę „białych” ludzi jako cyfry rzymskie od I do IV, pytając, ile oparzeń słonecznych lub opalenizny rozwinęli po określonych okresach na słońcu.
Dekadę później pojawił się typ V dla”brązowej”skóry i VI dla”czarnej”. Skala jest nadal częścią amerykańskich przepisów dotyczących testowania produktów z filtrami przeciwsłonecznymi i pozostaje popularnym standardem dermatologicznym do oceny ryzyka raka u pacjentów i nie tylko.
Niektórzy dermatolodzy twierdzą, że skala jest kiepski i nadużywany środek do pielęgnacji, często mylony z rasą i pochodzeniem etnicznym.
„Wiele osób założyłoby, że mam skórę typu V, która rzadko się pali, ale ja płonę, – powiedziała dr Susan Taylor, dermatolog z University of Pennsylvania, która w 2004 roku założyła Skin of Color Society w celu promowania badań nad marginalizowanymi społecznościami. „Spojrzenie na odcień mojej skóry i stwierdzenie, że jestem typem V, wyrządza mi krzywdę”.
Firmy technologiczne do niedawna były obojętne. Unicode, stowarzyszenie branżowe nadzorujące emoji, odniosło się w 2014 roku do FST jako podstawy do przyjęcia pięciu odcieni skóry poza żółtym, mówiąc, że skala była „bez negatywnych skojarzeń”.
Badanie z 2018 r. zatytułowane „Odcienie płci”, które wykazało, że systemy analizy twarzy częściej błędnie określały płeć osób o ciemniejszej karnacji, spopularyzowane za pomocą FST do oceny sztucznej inteligencji. Badanie opisało FST jako „punkt wyjścia”, ale naukowcy z podobnych badań, które pojawiły się później, powiedzieli Reuterowi, że używali skali, aby zachować spójność.
„Jako pierwszy pomiar dla stosunkowo niedojrzały rynek, pomaga nam identyfikować czerwone flagi” – powiedziała Inioluwa Deborah Raji, pracownik Mozilli zajmujący się audytem sztucznej inteligencji.
W kwietniowym badaniu testującym sztuczną inteligencję pod kątem wykrywając deepfake, badacze Facebook Inc napisali, że FST „wyraźnie nie obejmuje różnorodności w brązowych i czarnych odcieniach skóry”. Mimo to opublikowali filmy 3000 osób, które mają być wykorzystane do oceny systemów AI, z dołączonymi tagami FST w oparciu o oceny ośmiu ludzkich oceniających.
Ocena oceniających ma kluczowe znaczenie. Startup oprogramowania do rozpoznawania twarzy AnyVision w zeszłym roku podał przykłady celebrytów oceniającym: były wielki baseballista Derek Jeter jako typ IV, modelka Tyra Banks a V i raper 50 Cent a VI.
AnyVision powiedział Reuterowi, że zgadza się z decyzją Google o ponownym przyjrzeniu się korzystaniu z FST, a Facebook powiedział, że jest otwarty na lepsze środki.
Microsoft Corp i producenci smartwatchów Apple Inc i Garmin Ltd odnoszą się do FST podczas pracy na czujnikach związanych ze zdrowiem.
Jednak stosowanie FST może napędzać „fałszywe zapewnienia” dotyczące odczytów tętna ze smartwatchy na ciemniejszej skórze, klinicyści z Uniwersytetu Kalifornijskiego w San Diego, zainspirowani ruch równości społecznej Black Lives Matter, napisał w zeszłym roku w czasopiśmie Sleep.
Microsoft potwierdził niedoskonałości FST. Apple powiedział, że testuje ludzi w różnych odcieniach skóry przy użyciu różnych środków, FST tylko czasami wśród nich. Garmin powiedział, że ze względu na szeroko zakrojone testy wierzy, że odczyty są wiarygodne.
Victor Casale, który założył firmę makijażową Mob Beauty i pomógł Crayola przy nowych kredkach, powiedział, że opracował 40 odcieni w przypadku podkładu, każdy różni się od następnego o około 3% lub wystarczająco, aby większość dorosłych mogła je rozróżnić.
Dokładność kolorów w elektronice sugeruje, że standardy techniczne powinny mieć od 12 do 18 tonów, powiedział, dodając: „nie możesz mieć tylko sześciu”.
FacebookTwitterLinkedin
