211service.com
Proč byl rok 2020 stěžejním, rozporuplným rokem pro rozpoznávání obličejů
Alexander Farnsworth | Getty
K prvnímu potvrzenému neoprávněnému zatčení v Americe pomocí technologie rozpoznávání obličeje došlo v lednu 2020. Robert Williams, černoch, byl zatčen na příjezdové cestě kousek od Detroitu a jeho manželka a malá dcera to sledovaly. Strávil noc ve vězení. Další den v místnosti pro výslech detektiv posunul Williamsovi přes stůl obrázek jiného černocha, který byl zachycen na videu, jak krade hodinky z butiku Shinola.
Jsi to ty? zeptal se .
Ne, to nejsem já. odpověděl Williams.
Detektiv přešel přes další obrázek. Myslím, že to nejsi ani ty?
Williams držel obrázek vedle obličeje. Očividně to nebyl on. Williams řekl: To nejsem já. Doufám, že si nemyslíte, že všichni černoši vypadají stejně.
Počítač říká, že jste to vy, odpověděl detektiv.
Nová věc o zatčení Roberta Williamse nebylo, že se to stalo, nebo že by to byla chyba. Je známo, že rozpoznávání obličeje je méně přesné pro lidi s tmavší pletí. A tato technologie je široce používána policejními odděleními ve Spojených státech, ačkoli neexistují dobré údaje o tom, jak je všudypřítomná. Neobvyklá část Williamsova příběhu je, že policie přiznala, že při jeho zatčení použila rozpoznání obličeje.
Zpráva o případu se dostala na veřejnost počátkem srpna a – po letním protestu zaměřeném na způsob, jakým jsou v Americe hlídány černošské komunity – se setkala s celonárodním pobouřením. O pár týdnů později vyšlo najevo další neoprávněné zatčení černocha v Detroitu kvůli technologii rozpoznávání obličeje.
Ještě předtím aktivisté požadovali ukončení projektu Greenlight, celoměstské veřejno-soukromé iniciativy, která využívá rozpoznávání obličejů ve snaze snížit kriminalitu. A nejen, že projekt stále běží: na konci září městská rada odhlasovala prodloužení smlouvy mezi detroitskou policií a jejím poskytovatelem rozpoznávání obličejů, DataWorks Plus.
Rok protikladů
Události v Detroitu jsou příkladem našeho složitého vztahu s rozpoznáváním obličeje právě teď. Jeho použití roste a v některých oblastech se technologie stala integrální. V jiných, jako je maloobchod, se rozpoznávání obličeje začíná zavádět s velkými nadějemi do budoucna. Mnoho poskytovatelů technologií sází na to, že veřejnost bude mít s používáním biometrie stále větší pohodlí a brzy se stane organickou součástí digitálního života: Apple na ni silně vsadil a nyní miliony lidí používají její systém Face ID k odemykání svých iPhone každý den.
Ale veřejnost má také nové povědomí o nebezpečí, které rozpoznávání obličeje představuje, zejména v trestním soudnictví. Nyní je mnohem více povědomí, více obav a více konverzací než kdykoli předtím a tento rok byl svědkem více právních předpisů o rozpoznávání obličejů než všechny předchozí roky dohromady. V roce 2019 byly zákazy nebo moratoria v šesti městech po celých Spojených státech a stejné je to i letos.
Sladit tyto zákony s růstem tohoto odvětví bude těžké. Události roku 2020 však naznačují, jak by se tyto kompromisy mohly projevit v nadcházejícím roce.
Malí hráči, velký průmysl
V lednu New York Times zveřejnil vyšetřování z ClearviewAI, malé společnosti pro rozpoznávání obličejů, která spustila svůj algoritmus na databázi miliard obrázků získaných ze sociálních médií. Policejní oddělení využívající systém ClearviewAI efektivně přistupovala k vašim fotkám na Facebooku, aby se během vyšetřování shodovaly s často rozmazanými nebo neúplnými policejními obrázky.
Společnost byla silně kritizována a následné zprávy BuzzFeed News ukázaly, že systém používá až 2200 donucovacích orgánů v USA, stejně jako imigrační a celní orgány, ministerstvo spravedlnosti a maloobchodníci včetně Macy's a Walmart.
Příběh Clearview opravdu vyděsil mnoho lidí – jak by měl, říká Jameson Spivack, politický spolupracovník Centra pro soukromí a technologie Georgetownské univerzity. Mnohé z obav se soustředí na to, jak je pole roztříštěné. Zatímco velké společnosti jako IBM a Microsoft jsou významnými silami, existuje také spousta menších soukromých společností, jako jsou ClearviewAI a NtechLab, které fungují s malým veřejným dohledem. Zprávy také odhalily, jak málo veřejnost věděla o rozšířeném vládním používání této technologie.
Katalyzátor: Závodní protesty
Tyto příběhy zvýšily povědomí o problémech, ale Spivack říká, že protesty Black Lives Matter po vraždě George Floyda byly jediným největším katalyzátorem legislativy omezující používání rozpoznávání obličeje ve Spojených státech. Američané najednou začali přehodnocovat policejní práci a její nástroje, politiku a kulturu.
Obavy začaly narůstat poté, co výzkumníci Joy Buolamwini a Timnit Gebru objevili a doložená rasová zaujatost v komerčních produktech pro rozpoznávání obličeje v roce 2018, což vedlo několik měst a států k schvalovat zákony které zabránily policii používat rozpoznávání obličeje ve shodě s tělesnými kamerami.
Ale během největšího protestního hnutí v americké historii, aktivisté měli obavy že k odvetě budou použity policejní sledovací technologie. Od té doby bylo potvrzeno, že přinejmenším New York , Miami , a Washington, DC, policejní oddělení k sledování demonstrantů použil rozpoznání obličeje.
1. června ve Washingtonu, DC, policie použila pepřové koule a slzný plyn, aby zatlačila demonstranty na náměstí Lafayette Square, aby prezident Trump mohl vyfotografovat v nedalekém kostele. Uprostřed chaosu udeřil demonstrant policistu pěstí. O několik dní později policisté našli obrázek muže na Twitteru a prošli jej systémem rozpoznávání obličeje, našli shodu a zatkli. Podobně v Miami byla žena obviněná z házení kamenů na policii během protestu zatčena na základě shody v rozpoznání obličeje.
Spivack viděl, že místní aktivisté proti rozpoznávání obličejů během léta a podzimu úzce spolupracují s policejními reformními skupinami, vedenými dalšími zájmovými skupinami, jako je American Civil Liberties Union. V Portlandu v Oregonu jeden demonstrant dokonce vytvořil systém rozpoznávání obličeje identifikovat anonymní policisty .
V roce 2020 byla na obecní, státní a dokonce i federální úrovni navržena legislativa omezující policejní používání takové technologie. V červnu představili demokratičtí zákonodárci návrh zákona, který by zakázal používání rozpoznávání obličeje federálními orgány činnými v trestním řízení. Ve Vermontu vytvořil výkonný příkaz guvernéra celostátní zákaz používání této technologie vládou. V Massachusetts města Cambridge a Boston přijaly zákaz této technologie letos v létě a vláda státu to schválila zákaz rozpoznávání obličeje pro veřejné orgány, včetně vymáhání práva, v prosinci; V současnosti je guvernérem Charlie Baker odmítnutí podepsat směnku .
Kalifornie zahájila svou vlastní debatu o celostátní legislativě v květnu a města San Francisco a Oakland již zakázala používání rozpoznávání obličeje ze strany donucovacích orgánů. V červenci New York City zavedlo moratorium na rozpoznávání tváří ve školách do roku 2022. V Portlandu v Oregonu nový celoměstský zákaz zakazuje používání této technologie jakémukoli veřejnému nebo soukromému subjektu.
Ale k tomuto posunu nedochází všude, jak ukazuje znovuodhodlání sledovat v Detroitu. Spivack spekuluje, že dynamika rasové moci může ovlivňovat politický boj kolem policejního dohledu. Když se podíváte na mnoho měst, která byla jedněmi z prvních, která zakázala rozpoznávání tváří, byla typicky – ne vždy, ale obvykle – bohatší, bělejší, velmi progresivní, možná s větším politickým kapitálem a schopností ovlivnit zákonodárce, více. než více marginalizovaných komunit, říká.
Národní vyhlídka?
Ne všechny reakce však měly podobu legislativy. Začátkem června IBM oznámila, že přestala prodávat jakýkoli ze svých produktů pro rozpoznávání obličeje. Amazon a Microsoft následovaly tím, že dočasně ukončily své smlouvy s policejními odděleními. A v červenci ACLU podala žádost žalobu proti ClearviewAI za nedodržení zákona Illinois Biometric Information Privacy Act – první úplná právní námitka společnosti.
Microsoft, Amazon, IBM a průmyslové skupiny jako Asociace bezpečnostního průmyslu se připravují na boj. Oni dramaticky zvýšilo množství lobbingu v oblasti rozpoznávání obličejů od roku 2018 do roku 2019 a očekává se, že rok 2020 vykáže ještě větší nárůst. Mnozí jsou pro zvýšenou regulaci, nikoli však pro zákazy. Moratorium Amazonu skončí v červnu a moratorium Microsoftu je podmíněno zavedením federálního zákona.
Mezitím ACLU pokračuje v návrhu legislativy, která se snaží tuto technologii zakázat. Prohlášení na svých webových stránkách uvádí, že organizace se obrací k soudům, ulicím, zákonodárným sborům, městským radám a dokonce i do správních síní společností, aby bránila naše práva proti rostoucím nebezpečím této neregulované sledovací technologie.
Priority nové administrativy budou také utvářet regulaci v roce 2021 a dále. Jako prezidentská kandidátka, Kamala Harris citovaná regulace rozpoznávání obličeje v oblasti vymáhání práva jako součást jejího plánu reformy policie. Pokud bude administrativa prosazovat federální legislativu, je pravděpodobnější, že se stane celostátním problémem, což bude mít za následek, že méně zdrojů bude směřováno na více místních kampaní dohledu. Ale pokud ne, boj se bude pravděpodobně nadále odehrávat na úrovni státu a města.