Nová žaloba, která ukazuje rozpoznání obličeje, je oficiálně záležitostí občanských práv

ACLU

9. ledna 2020 jela detroitská policie na předměstí Farmington Hill a zatkla Roberta Williamse na jeho příjezdové cestě, zatímco jeho žena a malé dcery přihlížely. Williams, černoch, byl obviněn z krádeže hodinek z luxusního obchodu Shinola. Byl držen přes noc ve vězení.

Během výslechu policista ukázal Williamsovi obrázek podezřelého. Jeho odpověď, stejně jako on řekl ACLU , bylo žalobu zamítnout. To nejsem já, řekl důstojníkovi. Doufám, že si všichni nemyslíte, že všichni černoši vypadají stejně. Říká, že důstojník odpověděl: Počítač říká, že jste to vy.

Související příběh

Co se stane, když se algoritmus pokazí

Zvláštní na falešném zatčení Roberta Williamse nebylo to, že policie použila rozpoznání tváře, aby ho identifikovala. Jde o to, že mu o tom řekli.

Williamsovo neoprávněné zatčení, o kterém jako první informoval New York Times v srpnu 2020 , byl založen na špatné shodě ze systému rozpoznávání obličejů policejního oddělení v Detroitu. Ještě dva příklady falešné zatčení byly od té doby zveřejněny. Oba jsou také černoši a oba podnikli právní kroky.

Nyní Williams následuje jejich cestu a jde dále – nejen tím, že zažaluje ministerstvo za jeho neoprávněné zatčení, ale také tím, že se snaží tuto technologii zakázat.

V úterý ACLU a Iniciativa pro spory za občanská práva z University of Michigan Law School podal žalobu jménem Williamse s tvrzením, že zatčení porušilo jeho práva podle čtvrtého dodatku a bylo v rozporu s Michiganským zákonem o občanských právech.

Žaloba požaduje kompenzaci, větší transparentnost při používání rozpoznávání obličeje a ukončení používání technologie rozpoznávání obličeje policejním oddělením Detroitu, ať už přímé nebo nepřímé.

Co říká žaloba

The dokumenty podané v úterý rozložit případ. V březnu 2019 provedla DPD zrnitou fotografii černocha s červenou čepicí z sledovacího videa Shinoly prostřednictvím svého systému rozpoznávání obličeje, který vytvořila společnost s názvem DataWorks Plus. Systém vrátil shodu se starou fotografií Williamse v řidičském průkazu. Vyšetřující důstojníci poté zahrnuli Williamovu licenční fotografii jako součást sestavy fotografií a bezpečnostního dodavatele Shinoly ( který ve skutečnosti nebyl přítomen v době krádeže) identifikoval Williamse jako zloděje. Důstojníci získali zatykač, který vyžaduje vícenásobné podpisy od vedení oddělení, a Williams byl zatčen.

Stížnost tvrdí, že falešné zatčení Williamse bylo přímým důsledkem systému rozpoznávání obličeje a že tento případ nezákonného zatčení a uvěznění je příkladem vážné újmy způsobené zneužitím technologie rozpoznávání obličeje a spoléhání se na ni.

Případ obsahuje čtyři body, z nichž tři se zaměřují na nedostatek pravděpodobné příčiny zatčení, zatímco jeden se zaměřuje na rasové rozdíly v dopadu rozpoznávání obličeje. Využitím technologie, u které je empiricky prokázáno, že chybně identifikuje černochy v míře mnohem vyšší než u jiných skupin lidí, uvádí DPD, upírala panu Williamsovi plný a rovný požitek ze služeb, privilegií a výhod policejního oddělení Detroitu kvůli jeho rase. nebo barvu.

Problémy technologie rozpoznávání obličeje při identifikaci lidí s tmavší pletí jsou dobře zdokumentované . Po zabití George Floyda v Minneapolis v roce 2020 některá města a státy oznámily zákazy a moratoria na policejní používání rozpoznávání obličeje. Ale mnoho dalších, včetně Detroitu, pokračovalo v jeho používání navzdory rostoucím obavám.

Spoléhání na podřadné obrázky

Když minulý rok MIT Technology review hovořil s právníkem Williamsova ACLU Philem Mayorem, zdůraznil, že problémy rasismu v rámci amerických vymáhání práva způsobily, že používání rozpoznávání obličeje je ještě znepokojivější.

Toto není situace jednoho špatného aktéra, řekl starosta. Toto je situace, ve které máme trestní právní systém, který je extrémně rychlý k obvinění a extrémně pomalý k ochraně lidských práv, zvláště když mluvíme o lidech barvy pleti.

Eric Williams, hlavní právník z oddělení Economic Equity Practice v Detroitu, říká, že fotoaparáty mají mnoho technologických omezení, v neposlední řadě to, že mají pevně zakódované barevné rozsahy pro rozpoznání tónu pleti a často jednoduše nedokážou zpracovat tmavší pleť.

'Myslím, že každý černoch v zemi má zkušenost s tím, že je na fotografii, a obrázek je buď světlejší, nebo mnohem tmavší.'

Myslím, že každý černoch v zemi má zkušenost s tím, že je na fotografii a obrázek je buď světlejší, nebo naopak tmavší, říká Williams, který je členem ACLU michiganského právního výboru, ale nepracuje na Robertovi. Williamsův případ. Osvětlení je jedním z hlavních faktorů, pokud jde o kvalitu obrazu. Takže skutečnost, že se orgány činné v trestním řízení do určité míry spoléhají na skutečně podprůměrné obrázky, je problematická.

Objevily se případy, které napadly zkreslené algoritmy a technologie umělé inteligence na základě rasy. Podstoupil například Facebook masivní audit občanských práv poté, co bylo zjištěno, že její cílené reklamní algoritmy zobrazují reklamy na základě rasy, pohlaví a náboženství. YouTube byl žalován hromadná žaloba černošských tvůrců která tvrdila, že její systémy AI profilují uživatele a cenzurují nebo diskriminují obsah na základě rasy. YouTube také zažalovali tvůrci LGBTQ+, kteří uvedli, že systémy pro moderování obsahu označil slova gay a lesba.

Někteří experti říkají, že bylo jen otázkou času, než se použití neobjektivní technologie ze strany velké instituce, jako je policie, setká s právními problémy.

Související příběh

Proč byl rok 2020 stěžejním, rozporuplným rokem pro rozpoznávání obličejů Hnutí za rasovou spravedlnost posunulo problémy s technologií do povědomí veřejnosti – ale navzdory skandálům a zákazům se její růst nezpomaluje.

Vládní používání rozpoznávání obličeje má zjevně odlišný dopad na lidi s jinou barvou pleti, říká Adam Schwartz, vedoucí právník z Electronic Frontier Foundation. Studie za studií ukazuje, že tato nebezpečná technologie má mnohem vyšší míru falešných pozitivních výsledků u lidí s jinou barvou pleti než u bílých lidí. Vládní použití této technologie tedy porušuje zákony, které vládě zakazují přijímat praktiky, které mají odlišný dopad.

Ale Mayor, Williamsův právník, očekával tvrdý boj. Minulý rok řekl MIT Technology Review, že očekává, že to detroitská policie udělá nadále tvrdí, že rozpoznávání obličeje je skvělým vyšetřovacím nástrojem.

Případ Williams dokazuje, že tomu tak není. To vůbec není, řekl. A ve skutečnosti to může lidem ublížit, když to použijete jako vyšetřovací nástroj.

Pod mikroskopem

Lawrence Garcia, právní zástupce města Detroit, v prohlášení uvedl, že cílem města bylo „dosáhnout vyřešení“ případu, ale uvedl, že za situaci nemůže rozpoznání obličeje.

'Jak policejní náčelník vysvětlil, zatčení bylo výsledkem chatrného vyšetřování - nikoli vadné technologie,' řekl Garcia. „Policejní oddělení Detroitu provedlo interní vyšetřování a několik členů oddělení bylo obviněno z pochybení. Společnost DPD zavedla nové protokoly, aby se zabránilo podobným problémům.“

Ale oblek Williams přichází v kritické době pro závody a policii v USA. Byl podán, když obhájci začali argumentovat v procesu s Derekem Chauvinem, důstojníkem obviněným z vraždy George Floyda v Minneapolis loni v květnu – a třetí den protestů v reakci na střelbu na Daunte Wrighta v nedalekém Brooklyn Center v Minnesotě. Wright, 20letý černoch, byl zastaven kvůli dopravní zastávce a zatčen na základě zatykače předtím, než ho policistka Kim Potterová zastřelila a údajně si spletla její pistoli s taserem.

Eric Williams říká, že je nezbytné porozumět rozpoznávání obličejů v tomto širším kontextu policejních selhání:

Když se DPD rozhodlo koupit technologii... bylo známo, že technologie rozpoznávání obličeje byla náchylná k chybné identifikaci lidí tmavší pleti, než byl pan Williams vzat do vazby, že? Navzdory tomu se ve městě, které je z více než 80 % černé, rozhodli použít tuto technologii.

Zjevně přikládáte menší hodnotu životům a živobytí a občanským svobodám černochů než bílým lidem. To je v současných Spojených státech příliš běžné.

Tento příběh byl aktualizován, aby zahrnoval prohlášení města Detroit. Jennifer Strong přispěla reportáží k tomuto příběhu.

skrýt