Když je rozpoznávání obličeje méně zaujaté, neznamená to, že je méně děsivé

Busà Photography/Getty

V posledních několika letech došlo k dramatickému nárůstu zavádění technologií rozpoznávání, detekce a analýzy obličejů.

Pravděpodobně nejvíce znáte uznání systémy, jako je Facebook doporučující označování fotografií a FaceID společnosti Apple, které dokážou identifikovat konkrétní osoby. Detekce systémy na druhé straně určují, zda je obličej vůbec přítomen; a analýza systémy se snaží identifikovat aspekty, jako je pohlaví a rasa. Všechny tyto systémy se nyní používají pro různé účely, od najímání a maloobchodně bezpečnostní a dohled .

Mnoho lidí věří, že tyto systémy jsou vysoce přesné a nestranné. Logika vychází z toho, že letištní bezpečnostní pracovníci se mohou unavit a policie může podezřelé špatně odhadnout, ale dobře vyškolený systém umělé inteligence by měl být schopen důsledně identifikovat nebo kategorizovat jakýkoli obrázek obličeje.

V praxi ale výzkum opakovaně ukázal, že tyto systémy se s některými demografickými skupinami zabývají mnohem nepřesněji než s jinými. Minulý rok, Genderové odstíny , zásadní studie vedená výzkumnicí z MIT Media Lab Joy Buolamwini, zjistila, že systémy klasifikace pohlaví prodávané společnostmi IBM, Microsoft a Face++ měly chybovost až o 34,4 procentních bodů vyšší u žen s tmavší pletí než u mužů se světlejší pletí. ACLU severní Kalifornie podobně zjištěno že platforma Amazonu s větší pravděpodobností nesprávně identifikuje nebělošské než bílé členy Kongresu.

Problém je v tom, že systémy rozpoznávání a analýzy tváří jsou často trénovány na zkreslených souborech dat: dostávají mnohem méně obrázků žen a lidí s tmavou pletí než obrázky mužů a lidí se světlou pletí. A zatímco mnoho z nich je údajně testováno z hlediska spravedlnosti, tyto testy nekontrolují výkon na dostatečně široké škále tváří – jak zjistil Buolamwini. Tyto rozdíly udržují a dále upevňují existující nespravedlnosti a vedou k důsledkům, které se jen zhoršují, když se sázky zvyšují.

Tři nové články vydané v minulém týdnu nyní přinášejí tolik potřebnou pozornost k tomuto problému. Zde je stručný popis každého z nich.

Papír #1. Minulý čtvrtek, Buolamwini propuštěn aktualizaci Gender Shades opětovným testováním systémů, které dříve zkoumala, a rozšířením své recenze o Amazon’s Rekognition a nový systém od malé společnosti s umělou inteligencí s názvem Kairos. Máme dobré zprávy. Zjistila, že IBM, Face++ a Microsoft zlepšily přesnost klasifikace pohlaví u žen tmavší pleti, přičemž Microsoft snížil chybovost pod 2 %. Na druhé straně platformy Amazon a Kairos stále měly rozdíly v přesnosti 31 a 23 procentních bodů mezi světlejšími muži a tmavšími ženami. Buolamwini řekl studie ukazuje, že tyto technologie musí být podrobeny externímu auditu, aby byly technicky odpovědné.

Papír #2. V neděli, a studie z MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) prokázali účinnost nového algoritmu pro zmírnění zkreslení v systému detekce obličejů, i když je trénován na silně zkreslených datech. Během trénování také identifikuje, které příklady v datech jsou nedostatečně zastoupeny, a tráví čas navíc jejich prohlížením, aby to kompenzoval. Když vědci testovali systém proti datové sadě Buolamwini Gender Shades, zjistili, že pomohl překlenout jejich vlastní největší mezeru v přesnosti, mezi muži se světlejší a tmavší pletí, ve srovnání se standardním tréninkovým algoritmem (ačkoli jej zcela neodstranil). .

Papír #3. Dnes ráno společnost IBM Research vydala a papír který identifikuje desítky funkcí pro měření rozmanitosti kromě barvy pleti a pohlaví, včetně výšky hlavy, šířky obličeje, vzdálenosti mezi očima a věku. Zjištění vycházejí z předchozího výzkumu lidských tváří. Pokud nebudeme mít měření rozmanitosti obličeje, říká John Smith, jeden ze spoluautorů článku, nemůžeme se vrátit a prosadit je, když trénujeme tyto systémy rozpoznávání obličejů. V souvislosti s tím tým vydal nový soubor dat s 1 milionem obrázků tváří, které byly anotovány těmito novými opatřeními.

Různé míry rozmanitosti obličeje, představené v novém článku IBM Research. Výzkum IBM

Každá z těchto studií podnikla důležité kroky k vyřešení zkreslení v rozpoznávání obličejů – tím, že vedla společnosti k odpovědnosti, vytvořila nové algoritmy a rozšířila naše chápání rozmanitosti dat. Ale vytvoření spravedlivějších a přesnějších systémů je jen polovina úspěchu.

I ty nejspravedlivější a nejpřesnější systémy mohou být stále používány k porušování občanských svobod lidí. Minulý rok, Daily Beast vyšetřování zjistili, že Amazon aktivně předkládá svou platformu pro sledování obličeje americkému imigračnímu a celnímu úřadu, lépe známému jako ICE, aby pomohl při potlačování komunit migrantů. Záchyt vyšetřování také zjistili, že IBM vyvinula schopnost identifikovat etnický původ tváří jako součást dlouhodobého partnerství s newyorským policejním oddělením. Tato technologie byla poté bez vědomí obyvatel města nasazena do veřejných kamer pro testování. Metropolitní policie Spojeného království již používá rozpoznávání obličeje skenovat veřejné davy pro lidi na seznamech sledovaných a Čína to používá Hromadné sledování všech obyvatel, pro účely včetně sledování disidentů.

V reakci na rychlé šíření těchto systémů, rostoucí počet aktivistů za občanská práva a technologové vyzvali k jejich regulaci; Google má dokonce pozastaveno prodej takových systémů, dokud nebude mít jasnou strategii, jak zabránit jejich zneužití.

Bez algoritmické spravedlnosti může přesnost algoritmu/technická spravedlnost vytvořit nástroje umělé inteligence, které jsou vybaveny zbraněmi, říká Buolamwini.

Tento příběh se původně objevil v našem zpravodaji o umělé inteligenci The Algorithm. Chcete-li jej doručit přímo do vaší schránky, zaregistrujte se zdarma zde.

skrýt