Občané obracejí rozpoznávání tváří na neidentifikované policisty

Nová série našeho AI podcastu In Machines We Trust je o rozpoznávání obličejů. V první části seriálu Jennifer Strong a tým MIT Technology Review zkoumají neočekávané způsoby, jak se tato technologie používá, včetně toho, jak se obrací proti policii.

Potkáme:

• Christopher Howell, datový vědec a demonstrant.

Kredity:

Tuto epizodu nahlásili a produkovali Jennifer Strong, Tate Ryan-Mosley a Emma Cillekens a Karen Hao. Editují nás Michael Reilly a Gideon Lichfield.

přepis:

[Reklama]

[TR ID]

Silný: Od té doby, co jsme naposledy hovořili o rozpoznávání obličeje, se stalo několik věcí. Viděli jsme, že se více míst přesunulo, aby omezilo jeho používání, a zároveň školy a další veřejné budovy začaly používat ID obličeje jako součást svých plánů prevence covidu. Používáme ho dokonce i na zvířatech, a to nejen na obličejích s podobností s našimi, jako jsou šimpanzi a gorily, čínské technologické firmy ho používají na prasata a kanadští vědci pracují na identifikaci velryb, dokonce i medvědů grizzly.

Jinými slovy, počet způsobů, jak bychom mohli tuto technologii použít, exploduje, stejně jako obavy, zda je to proveditelné, natož dobrý nápad. A tak se zákazy používání Face ID rozšiřují z Portlandu ve státě Maine do Portlandu v Oregonu, kde příští rok vstoupí v platnost nejpřísnější omezení rozpoznávání obličejů v zemi, která zakazují nejen jeho používání policií, ale i komerční aplikace také.

Kolář: Kolegové, jsme tu dnes odpoledne, abychom zvážili dvě nařízení, která se snaží zakázat používání technologií rozpoznávání obličejů naší vlastní správou města Portland a soukromými subjekty ve veřejných prostorách.

Silný: Starosta Portlandu Ted Wheeler zahajuje schůzi městské rady, která v září schválila tyto zákony. Jako u většiny věcí v těchto dnech probíhaly veřejné komentáře a hlasování na Zoomu.

Kolář: Portland je daleko od antitechnologického města a to chci velmi jasně říci. Nejsme anti-technologie s širokou škálou místních a národních technologických společností. Jsme jedním z nejrychleji rostoucích technologických center kdekoli na západním pobřeží.

Silný: Během několika příštích hodin měli své slovo právníci, softwaroví inženýři, znepokojení občané a obchodní lídři. Poté, těsně před hlasováním. Poslední člověk, místní datový vědec, zvedl virtuální ruku, aby položil otázku.

Kolář: Christopher Howell... v neposlední řadě vítejte.

Howell: Rád bych vyjádřil podmínečnou podporu této vyhlášce, ale mám obavy.

Silný: Je to proto, že buduje něco, co využívá rozpoznávání obličeje méně než konvenčním způsobem.

Howell: Zabývám se vývojem rozpoznávání obličejů, které se ve skutečnosti používá u policistů v Portlandu, protože se neidentifikují veřejnosti a páchají zločiny. Stane se to nezákonným, pokud toto nařízení přijmete?

[Hudba]

Silný: Jsem Jennifer Strong a během několika příštích týdnů uděláme další hluboký ponor na vzestupu rozpoznávání obličejů. V této nejnovější minisérii prozkoumáme, jak se používá ve sportu jak u sportovců, tak u fanoušků, jak se používá v maloobchodních prodejnách a jak se používá ke službě bezdomovcům. Nejprve však věci odstartujeme pohledem na to, jak se to obrací zpět na policii.

[ZOBRAZIT ID]

Silný: Anonymita policistů a dalších autorit je prodchnutá opravdu složitou historií. Je zde křehká rovnováha soukromí a odpovědnosti oba strany pro demonstranty a pro policii.

[Zvuk chicagských nepokojů.]

Silný: Chicagské nepokoje v roce 1968 přerušily televize Američanů po celé zemi, když si naladili sledování Demokratického národního shromáždění, které se toho roku konalo v Chicagu.

[Zvuk chicagských nepokojů.]

Silný: Demonstranti demonstrovali proti válce ve Vietnamu a proti Demokratické straně. Po střetu s policií v Grant Parku se demonstranti vydali po Michigan Avenue k hotelu, kde bydlelo mnoho delegátů sjezdu. Amerika 17 minut živě sledovala, jak Illinoisská národní garda použila slzný plyn... jak policie mlátila demonstranty.

[Zvuk chicagských nepokojů. 'Celý svět se dívá']

Silný: Policie nenosila jmenovky a to je ve skutečnosti docela běžné, když policie jedná s demonstranty. Někdy je to legální, někdy nezákonné a někdy je to dokonce nařízeno v zájmu bezpečnosti, jako letos v létě v Buffalu v New Yorku.

Zpravodaj: Policejní komisař v Buffalu říká, že to bylo jeho rozhodnutí, aby důstojníci nosili na uniformách čísla jejich odznaků a ne jejich jména.

Komisař: Došlo k rostoucímu zájmu o obtěžování důstojníků a jejich rodiny. Aby důstojníci mohli vykonávat svou práci beze strachu, rozhodl jsem se tehdy.

Silný: Ale když se to stane, občané a aktivisté zatlačí. Mnozí tvrdí, že to dává policii ještě větší moc, než již má...protože je téměř nemožné pohnat je k odpovědnosti.

Dotazovaný: Potřebujeme, aby se naše rada postavila a mluvila za 255 000 lidí, které zastupujete, a povzbudila a požadovala, aby tato policie změnila politiku zpět, místo aby myslela pouze na tucet policistů, kteří byli obtěžováni a kteří by mohli být chráněni podle stávajícího stávajícího zákona. .

Silný: Ale dlouho před událostmi letošního léta se lidé pokusili identifikovat neznámé policisty. Používali fotografie z protestů, detekce na sociálních sítích, crowdsourcing přes internet, dokonce se uchýlili ke krádeži osobních údajů. Stejně jako v případě hackerského kolektivu – zvaného Anonymous. Je známá tím, že se připojila k protestům Occupy Wall Street a nakrátko zrušila webové stránky newyorské burzy. Stejná skupina později zveřejnila soukromé informace, které ukradla z policejních a vládních webů, včetně domovských adres policistů.

Žertovný telefonát: Dostali jste se na úřad šerifa okresu Baldwin… [prsten]

Silný: V tomto žertovném hovoru si nárokují zásluhy za hack.

[Úryvky z žertovného hovoru]

Silný: Odhalování těch, kteří ovládají sílu nad ostatními, není jedinečné pro USA. V roce 2014 během ruské anexe Krymu si možná vzpomenete, že kontrolu převzali vojáci bez odznaků na svých zelených uniformách. V té době nejvyšší představitelé včetně prezidenta Vladimira Putina opakovaně popírali, že by tyto jednotky byly ruské.

Trošičku : Nejsou zde žádné jednotky. Alespoň žádné ruské jednotky.

Silný: Toto je ruský velvyslanec v EU, který hovoří s novináři.

Velvyslanec: Spojené státy, které mají tradici zasahovat do jiných zemí a posílat vojáky do zámoří, mohou jednat podle své vlastní mentality... řekl bych. Ale to není případ ruského vměšování.

Silný: Ale bylo. Porovnáním fotografií, případně s pomocí rozpoznání obličeje, ukrajinská vláda určila, že vojáci byli ve skutečnosti svázáni s ruskou armádou. A vydali fotky jako důkaz. Později Putin také připustil, že vojáci byli skutečně ruští.

Putin překlad: Samozřejmě, že ruští vojáci podpořili krymské sebeobranné síly. Jednali civilně, jak jsem již řekl, ale rozhodně a profesionálně.

[Hudba]

Silný: Nyní se demonstranti stále častěji pokoušejí obrátit Face I-D zpět na policii – aby identifikovali policisty, kteří používají nadměrnou sílu. Včetně Hongkongu, kde v loňském roce dominovaly zpravodajským kanálům dramatické snímky střetů mezi demonstranty a policií, které ukazují, jak policie střílí živé kulky a demonstranti útočí na policisty. Toto je reportér New York Times Paul Mozur ve veřejnoprávní televizi.

Mozur: Jak protesty pokračovaly a policie a Hongkongové se týden za týdnem sbližovali, tvář se stala zbraní a identita je svým způsobem ozbrojena. Víte, demonstranti vyjdou ven a policie se pokusí zachytit jejich snímky na video a pak se vrátit a identifikovat je prostřednictvím všech sociálních médií a online materiálů, které jsou tam venku, a pak naopak. Viděli jsme, jak si policie skutečně sundala odznaky, a tak nyní demonstranti dělají totéž policii, kde se snaží vrátit a používat sociální média a zjistit, která policie dělá jaké činy. Jeden z protestujících, konkrétně tento chlápek Colin Cheung, kterého jsme našli, vytvořil nástroj pro rozpoznávání obličeje, aby se pokusil identifikovat policii... a ve skutečnosti produkt nevydal, ale říká, že kvůli tomu se na něj policie zaměřila.

Silný: A Cheung byl zatčen krátce poté, co o tomto nástroji zveřejnil příspěvek na Facebooku... ale podobné snahy pokračují i ​​na jiných místech, včetně Portlandu v Oregonu.

Howell: Beru přesně stejnou technologii, jakou používají u nás. A není to tak, že bych se snažil lidi doxovat. Myslím tím, že je to pro důstojníky, kteří v podstatě porušují zákon, pokud jde o použití síly.

Silný: Christopher Howell je datový vědec a demonstrant.

Howell: A já jsem se jen chtěl dostat do záznamu. Hej, je tu další způsob, jak to můžeme použít. // A ve skutečnosti jde spíše o to, víš, udržet na ně tlak, aby se identifikovali, než abychom to museli dělat my.

Silný: Jeho svědectví před městskou radou v Portlandu o tomto nástroji, na kterém pracuje, vedlo k tomu, že jeho projekt začal pokrývat The New York Times. Od té doby se mu dostalo značné pozornosti, stejně jako reakce starosty Portlandu, který projekt označil za strašidelný.

Howell: Je děsivé nechat je jít ven a noc co noc lidi slzným plynem // a já, to bylo opravdu, pro mě byl jen takový, tak trochu vzrušující moment, jako je děsivé, že tito kluci nemají svá jména. Víš, že se někdo může oblékat jako policista, kterého znáš [smích]

Silný: Říká, že projekt začal částečně jen proto, aby viděl, jak bude fungovat.

Howell: Chci říct, je tam jistá technologická kuriozita... a něco takového, co můžu dělat, když je pozdě v noci a je frustrující vidět tyhle věci, zprávy nebo jít na Twitter a vidět videa z protestů lidí, všech a dobře, co můžu dělat? …a nakonec bych byl rád, kdyby to nebylo nutné. Myslím, že by měli nosit svá jména velkými písmeny, abychom nemuseli používat rozpoznávání obličejů na policistech, abychom se pokusili zjistit, kdo jsou.

Silný: Být schopen identifikovat důstojníka neznamená jen vědět, zda jím někdo skutečně je... Je nesmírně obtížné podat stížnost na někoho, aniž byste věděli, kdo ta osoba je.

Howell: Jedním z důvodů, proč jsem s tím začal, bylo to, že v soudních sporech se nemůžete jmenovat jako policista, který do mě strčil. Musíte vědět, kdo to je. Prostě řeknou, no, my nevíme, kdo to byl. Takže nemáte nikoho, koho byste mohli žalovat, a pokusit se získat záznamy o tom, co konkrétní důstojníci udělali, vás nenechají jít na ryby. // Musíš to vědět, takže když jsi mi dal fotku, víš, tady je tenhle policajt, ​​jak někoho bije obuškem, který chci, a my zjistíme, že uvidíš jeho tvář. Takže zjistíme, kdo to je, jak to uděláme? A zpočátku jsem spíš uvažoval o zpětném vyhledávání obrázků v databázi. Jako bych shromáždil všechny obrázky, které mohu, a budeme je moci propojit, abychom mohli říci, že jde o všechny stejné osoby. A pak jsem si nějak uvědomil, že bych to mohl udělat lépe.

Silný: Uvědomil si, že dokáže vytvořit nástroj pro identifikaci obličeje pomocí obrázků důstojníků z internetu.

Howell: Začal jsem se tedy dívat na jejich obrázky, kde jsou identifikováni, nebo na zprávy, víš, vracel jsem se dále a dostával se jako zpravodajské články.

Silný: Projekt je technicky jednodušší než budování systému určeného k identifikaci kohokoli.

Howell: Víme, že kdo je policie, víte, neexistuje, neměli by tam být lidé v pořádkové výstroji, kteří nejsou policisté. Takže pokud můžete získat všechny jejich obrázky a to je skutečný problém, ale pak byste mohli mít méně obtížný matematický problém v tomto smyslu identifikovat, dobře, víme, že tato osoba je mimo tuto sadu. Pojďme zjistit, který z nich to je...

Silný: Říká, že zatím nasbíral tisíce obrázků...většinou ručně z Twitteru a zpravodajských článků v průměru 15 až 20 nebo tak na každého policistu, kterého identifikoval.

Howell: Mnoho původních obrázků bylo z Twitteru. Hodně z toho jsem šel do zpravodajských článků. // Myslím, dopravní nehoda, jedna je, víte, zpráva je skvělým příkladem. Protože jsem jich našel spoustu. Nebo jako komunitní grilování a jsou tam uniformovaní důstojníci a pojmenovává je to.

Silný: Není to úplně stejné měřítko jako systémy identifikace obličeje používané policií...

Howell : Právě to všechno právě dělám na skriptu Python - víte, vše je na mém notebooku lokální.

Silný: ...ty jsou obvykle trénovány na fotografických sadách milionů nebo miliard.

Howell: Protože si myslím, že přesnost je důležitá a, uh, a počet snímků je dostatečně malý, že kdybych se tam snažil vložit svůj obličej, nechtěl bych mít dalšího Chrise Howella.

Silný: Ale zdá se, že je to dost obrázků, aby to fungovalo. Říká, že jeho nástroj již byl použit k potvrzení totožnosti důstojníka v případě, který směřuje k soudu.

Howell: Někdo mi přinesl obrázek, který jsem nenašel, a řekl, pomozte mi, víte, používáte svůj systém a řekněte mi, co říká. A už věděla, kdo si myslí, že to je, ale neřekla mi to. A pak byl nejlepší výsledek ten, který se očekával.

Silný: Pokud jde o to, kam to půjde dál, to si každý může domyslet, i když si dokáže představit den, kdy by to mohlo být použito ve spolupráci s městem.

Howell: Mohl bych vidět budoucnost, možná za roky, kdy budou věci trochu jiné, kde město dá něco takového k dispozici a bude to hostovat samo a přiměje je udělat spoustu fotek, abychom mohli mít dobře vycvičenou věc. Takže jako věc se zpětnou vazbou občanů. A, a nemusely by to být nutně všechny negativní věci, ale tak, aby se to dalo využít i na reklamace. Chci říct, část mě si myslí, že by bylo užitečné, když spolupracují se samotnými vládními agenturami, aby řekli: Ahoj, chceme být odpovědní. Nemyslím si, že je to v roce 2020 příliš reálné, ale myslím si, že by to mohlo být nedaleko! [smích]

Silný: Něco, co nechce, je udělat to open source.

Howell: Nemyslím si, že je to skvělý nápad pro někoho, aby to bylo jako veřejné na webové stránce. Myslete na to, že to vyžaduje, aby se věci pokazily, jako jsou skutečně zřejmé věci, které byste mohli mít, lidé, víte, předstírání věcí nebo záměrné vkládání zavádějících obrázků…

[Hudba]

Silný: Portlandské zákazy obličeje I-D vstoupí v platnost v lednu, ale Howellův projekt? nebude to ovlivněno. Veřejné školy, náboženské instituce, dokonce i to, jak se na letišti používá rozpoznávání obličejů, například způsob, jakým aerolinky jako Delta nastupují do svých cestujících. Nic z toho také nebude ovlivněno. Místní vládní úřady ji nebudou moci používat. A nebude to povoleno na většině veřejných prostorů nebo soukromých prostorech, které jsou otevřeny veřejnosti, jako je nákupní centrum. Místní policie také nebude moci používat technologii, ačkoli lidé v jejich soukromých domech, jako Christopher Howell, ano. Zákazy se také nevztahují na orgány činné v trestním řízení na státní nebo federální úrovni.

Svým způsobem se používání této sledovací technologie stává jakýmsi globálním závodem ve zbrojení mezi veřejností a autoritami, které oba doufají, že skryjí anonymitu a podpoří dobré chování. Je těžké odhadnout, kdo by mohl být vítěz, ale určitě poraženým je soukromí.

V další epizodě…

Výňatek : Není traumatizující, když někdo vejde do zařízení a řekne, ano, můžete bezpodmínečně přijít, ale dovolte mi, abych vám vzal otisky prstů.

Silný: Podíváme se na přechod k používání rozpoznávání obličejů ve veřejném bydlení a azylových domech pro bezdomovce.

Výňatek : Facial Recognition je emocionálně šetrnější v tom, že je pasivní, nedotýká se jich a můžete to zachytit rychleji a nehrozí přenos.

Silný: Tuto epizodu jsem nahlásil a produkoval já, Tate Ryan-Mosley, Karen Hao a Emma Cillekens. Editují nás Michael Reilly a Gideon Lichfield.

Děkuji za poslech, jsem Jennifer Strong.

[TR ID]

skrýt