Americká vládní studie potvrzuje, že většina systémů rozpoznávání obličejů je rasistická

Kategorie: Umělá inteligence Vyslán 20. prosince

Téměř 200 algoritmů pro rozpoznávání obličejů – většina v tomto odvětví – mělo horší výkon na nebílých obličejích, uvádí orientační studie .

Co testovali: Americký Národní institut pro standardy a technologie (NIST) testoval každý algoritmus na dvou nejběžnějších úlohách pro rozpoznávání obličejů. První, známý jako shoda jedna ku jedné, zahrnuje porovnání fotografie někoho s jinou fotografií stejné osoby v databázi. Ten slouží například k odemykání chytrých telefonů nebo kontrole pasů. Druhé, známé jako vyhledávání typu one-to-many, zahrnuje určení, zda se fotka někoho shoduje v databázi. Toho často využívají policejní oddělení k identifikaci podezřelých při vyšetřování.

Agentura studovala čtyři soubory údajů o obličeji, které se v současnosti používají v aplikacích vlády USA: záběry z hrnků lidí žijících v USA; fotografie aplikací od lidí žádajících o imigrační výhody; fotografie aplikace od lidí žádajících o víza; a fotky lidí, když překračovali hranici do USA. Celkem datové soubory zahrnovaly 18,27 milionů snímků 8,49 milionů lidí.

Co našli: NIST sdílel některé výsledky studie na vysoké úrovni. Ty hlavní:

1. U shody jedna ku jedné měla většina systémů vyšší míru falešně pozitivních shod pro asijské a afroamerické obličeje oproti kavkazským obličejům, někdy až 10 nebo dokonce 100. Jinými slovy, byla pravděpodobnější najít shodu, když žádná nebyla.

2. To se změnilo u algoritmů pro rozpoznávání obličejů vyvinutých v asijských zemích, které produkovaly velmi malý rozdíl ve falešných pozitivech mezi asijskými a kavkazskými obličeji.

3. Algoritmy vyvinuté v USA byly všechny trvale špatné při hledání tváří asijských, afroamerických a původních Američanů. Domorodí Američané trpěli nejvyšší mírou falešné pozitivity.

4. Systémy jedna ku mnoha měly nejhorší míru falešně pozitivních výsledků u afroamerických žen, což tuto populaci vystavuje nejvyššímu riziku, že bude falešně obviněna z trestného činu.

Proč na tom záleží: Používání systémů rozpoznávání obličejů rychle roste v oblasti vymáhání práva, kontroly hranic a dalších aplikacích v celé společnosti. Zatímco několik akademických studií dříve ukázalo, že populární komerční systémy jsou zaujaté rasou a pohlavím, studie NIST je dosud nejkomplexnějším hodnocením a potvrzuje tyto dřívější výsledky. Zjištění zpochybňují, zda by tyto systémy měly být nadále tak široce používány.

Další kroky: Nyní je na tvůrcích politik, aby přišli na nejlepší způsob, jak tyto technologie regulovat. NIST také nabádá vývojáře rozpoznávání tváří, aby provedli další výzkum toho, jak by bylo možné tyto předsudky zmírnit.

Chcete-li, aby bylo více takových příběhů doručeno přímo do vaší schránky, přihlaste se k odběru našeho zpravodaje o umělé inteligenci The Algorithm nominovaného Webby. Je to zdarma.