Země miliardy tváří

Clearview AI vybudovalo jednu z nejkomplexnějších databází tváří lidí na světě. Pravděpodobně tam je váš obrázek (byl tam náš hostitel Jennifer Strong). Ve druhé části této čtyřdílné série o rozpoznávání obličejů se setkáváme s generálním ředitelem této kontroverzní společnosti, který nám říká, že naše budoucnost je naplněna FaceID – bez ohledu na to, zda je regulováno nebo ne.

Potkáme:

• Hoan Ton-To, Clearview AI
• Alexa Daniels-Shpall, policejní výkonné výzkumné fórum

Kredity:

Tuto epizodu nahlásila a produkovala Jennifer Strong, Tate Ryan-Mosley a Emma Cillekens, se zvláštním poděkováním Karen Hao a Benji Rosen. Editují nás Michael Reilly a Gideon Lichfield. Naším technickým ředitelem je Jacob Gorski.

Celý přepis epizody:

Jennifer Strong: U soudů probíhá boj mezi síťovou stránkou LinkedIn a společností zvanou hiQ Labs – startupem, který korporacím sděluje, že jejich zaměstnancům hrozí, že je budou přepadeny jiné společnosti…

Problém je v tom, že to dělá stahováním dat z webu LinkedIn.

Čtení moderátorů zpráv: s více než 500 miliony uživatelů po celém světě je LinkedIn pokladnicí osobních informací. Ale co když se informace, které nechcete sdílet, dostávají zpět k vašemu šéfovi?

Jennifer Strong: Ale hiQ tvrdí, že je to v pořádku – všechna tato data jsou veřejně dostupná bez přihlášení. Případ se může letos dostat k nejvyššímu soudu, i když zatím právní řád s hiQ souhlasí.

Víte, jaká máte práva na soukromí na webech jako LinkedIn nebo YouTube?

Bylo by překvapující, že fotografie – včetně některých, které jste nikdy neviděli, ale nějak se objevily na webu – používají společnosti k rozvoji svého podnikání, včetně vytváření systémů AI, které identifikují podezřelé pro policii?

Jsem Jennifer Strong a ve druhé části našeho seriálu o rozpoznávání tváří a policejní práci mluvíme s generálním ředitelem Hoanem Ton-Thatem, zakladatelem jedné z nejkontroverznějších technologických společností na světě, Clearview AI.

Jennifer Strong: V roce 2011 poskytl tehdejší generální ředitel společnosti Google Eric Schmidt hlavní rozhovor na konferenci pořádané The Wall Street Journal.

Eric Schmidt : Osobně mě velmi znepokojuje spojení mobilního sledování a rozpoznávání obličejů.

Jennifer Strong: Kombinace I-D obličeje se sledovacími daty z mobilních telefonů by mohla prozradit téměř každý detail o tom, jak a kde trávíme čas.

Schmidt řekl, že věří, že to může být použito pro dobro nebo zlo, ale v demokraciích si myslel, že to bude rychle regulováno.

Byl na pódiu s novináři Waltem Mossbergem a Karou Swisher a ti na něj naléhali: Jaké schopnosti měl Google a co by se mohlo stát ve špatných rukou?

Eric Schmidt : Aby bylo jasno, postavili jsme tu technologii... a zadrželi jsme ji. Pokud vím, je to jediná technologie, kterou Google vytvořil, a poté, co jsme se na to podívali, jsme se rozhodli přestat.

Jennifer Strong: Rychle vpřed téměř deset let. Rozpoznávání obličejů stále není regulováno a velká technologie se vrací k otázkám, co by se mělo stavět a kdo by to měl mít.

Věc je, že tech giganti nejsou největšími hráči v tomto prostoru. Společnosti, které jsou – včetně NEC, Cognitec a Clearview AI – pokračují v prodeji svých systémů.

A protože rozpoznávání obličejů není regulováno, pokud se společnost nerozhodne nám sdělit, že tyto nástroje existují nebo novinář něco neodhalí, nebudeme nutně vědět, co tam je – natož jak se to používá, i když je to použito na nás.

Clearview je někdy označován jako zabijácká aplikace face ID. Je to také neuvěřitelně kontroverzní. Tiše stáhla miliardy obrázků z internetu – z Venmo, LinkedIn, Google, Facebook, Twitter, YouTube a tak dále – a vytvořila systém, o kterém se věří, že jej široce využívají orgány činné v trestním řízení, včetně FBI a ICE. jako státní a místní policie.

O tuto praktiku zvanou Web scraping se vede mnoho právních bitev – ne proto, že by na ní bylo něco špatného, ​​je to jen nástroj pro shromažďování dat z internetu. Takto webové stránky nabízejí srovnání cen a nabídky nemovitostí. Je to také způsob, jakým se provádí velké množství veřejného výzkumu.

Takže skutečný problém je, že pro to neexistují žádná základní pravidla co lze škrábat. A federální zákon se nejčastěji používá k řešení těchto případů? No, je to z roku 1986. Než vůbec existoval web.

V této sérii uslyšíme lidi, kteří vytvářejí technologie, i ty, kteří proti nim bojují. A posadil jsem se s výkonným ředitelem společnosti Clearview, abych o tom všem promluvil z jeho perspektivy.

Hoan Ton-To : Jmenuji se Hoan Ton-That a jsem zakladatel a výkonný ředitel společnosti Clearview AI.

Jennifer Strongová : Dobře, jak byste popsali vaši společnost, technologii a co dělá?

Hoan Ton-To : V podstatě se jedná o vyhledávač tváří. Takže nahrajete fotku obličeje a ona najde veřejně dostupné odkazy, které jsou online. A právě teď se používá pro vymáhání práva k řešení trestných činů po faktu. Takže důstojník, pokud uvízli na případu a mají něco z videozáznamu, mohou to projít naším systémem a pak zahájit vyšetřování.

Jennifer Strong: Říká, že to okamžitě oslovilo orgány činné v trestním řízení, ale to bylo poté, co to nakoupil několika různým skupinám.

Hoan Ton-To : Když jsme budovali naši technologii rozpoznávání obličejů, prozkoumali jsme mnoho různých nápadů a mnoho různých sektorů od soukromé bezpečnosti po pohostinství... když jsme to dali některým lidem z vymáhání práva, nárůst byl obrovský. A zavolali nám druhý den zpět a řekli, řešíme případy. To je šílené. Za týden jsme měli opravdu tlustou brožuru.

Jennifer Strongová : Kde jste tedy vzal nápad vytvořit Clearview? Jaké byly vaše motivace?

Hoan Ton-To : Vždy jsem se rád učil o počítačovém programování, už jako dítě jsem se díval na video přednášky MIT nebo dělal open source projekty a stahoval obrázky, abych trénoval lepší modely pro rozpoznávání obličejů. A nakonec se to proměnilo v hledání obličeje. A bylo pro mě jen překvapením, kolik lidí se touto myšlenkou opravdu nezabývalo, protože je to tak těžký problém, protože musíte být velmi, velmi přesní, ale drželi jsme se toho a nakonec to fungovalo opravdu dobře.

Jennifer Strong: Existuje stále více důvodů, proč by se výzkumníci mohli rozhodnout nepracovat na vyhledávači tváří. Velkým problémem je, jak lze tuto práci aplikovat.

Kade Crockford : Vezměte si případ Steva Talleyho, finančního analytika z Colorada.

Jennifer Strong: Kade Crockford je zastáncem soukromí. Tohle je z její Ted Talk.

Kade Crockford : V roce 2015 byl Talley obviněn z bankovní loupeže na základě chyby v systému rozpoznávání obličeje. Talley s tím případem bojoval a nakonec byl zproštěn těchto obvinění, ale přišel o dům, práci a děti. Případ Steva Talleyho je příkladem toho, co se může stát, když technologie selže. Ale sledování obličeje je stejně nebezpečné, když funguje, jak je inzerováno.

Jen si vezměte, jak triviální by bylo pro vládní agenturu umístit bezpečnostní kameru před budovu, kde se lidé setkávají na setkáních anonymních alkoholiků. Stejně snadné by bylo použít tuto technologii k automatické identifikaci každé osoby, která se zúčastnila pochodu žen nebo protestu Black Lives Matter.

Jennifer Strong: Ačkoli Ton-That věří, že nástroj Clearview je bezpečnější než to, co popisuje.

Hoan Ton-To : Falešná pozitivita v živém prostředí je větší problém než v prostředí po faktu. Protože pokud dostáváte upozornění a běžíte dolů, abyste danou osobu našli, máte možná mnohem méně času na to, abyste zjistili, zda je to správné. Zatímco když sedíte za stolem a provádíte vyšetřování, máte veškerý čas na světě, abyste se ujistili, že děláte správnou věc.

Jennifer Strong: Ale neexistuje žádná shoda v tom, co znamená dělat správnou věc.

V první epizodě jsme potkali Roberta Williamse. Byl neprávem zatčen právě v rámci vyšetřování, o kterém mluví Ton-That, poté, co software nesprávně přiřadil fotografii jeho řidičského průkazu k obrázkům někoho, kdo krade hodinky.

Nástroj použitý v případě pana Williamse nevytvořila společnost Clearview, ale společnost s názvem DataWorks – ačkoli oba tyto systémy spoléhají na neuronové sítě.

Hoan Ton-To : Neuronová síť je tedy novější forma umělé inteligence, kde namísto tvrdého kódování určitých faktorů – například chceme rozpoznávat obličeje, abychom našli podobné obličeje stejné osoby – namísto tvrdých faktorů kódování, jako je vzdálenost mezi očima nebo vzdálenost mezi očima a nosem, to se prostě učí z tuny různých příkladů. A to, co děláme, je, že shromažďujeme jako tisíc příkladů George Clooneyho nebo tisíc příkladů Brada Pitta a stroj se postupem času naučí rozdíl mezi těmito dvěma obličeji a pak ho může aplikovat na obličej, který ještě nebyl viděn. .

Jennifer Strong: Všichni, s nimiž jsme pro tuto sérii mluvili, se shodli na tom, že tyto systémy fungují nejlépe, když je dobré osvětlení a kamery jsou umístěny ve výšce obličeje.

Ale s bezpečnostními kamerami je to vzácné. Je tu také problém rozsahu.

Hoan Ton-To : Jak vyhledáváte miliardy obličejů nebo vektorů za méně než sekundu? Typické vyhledávání databází podle jména a e-mailu. To vypadá podle podobnosti. A dělat to ve velkém je těžké. K tomu jsme si museli pořídit i vlastní datové centrum. Pokud kupujete systém rozpoznávání obličeje, obvykle se vyskytne problém se studeným startem. Jaké fotky tam dáváš? Policejní oddělení tedy mohou mít své vlastní snímky, ale nemají snímky z jiných policejních oddělení. Takže to opravdu omezuje jeho užitečnost. A právě jsme si uvědomili, že na internetu a na sociálních sítích jsou biliony a biliony webových stránek a víte, zpravodajské weby, weby s výstřelky.

Jennifer Strong: Jsme od sebe jen pár mil v New Yorku, ale kvůli pandemii si povídáme přes Zoom.

Hoan Ton-To : Jennifer, předtím jsem ti udělal snímek obrazovky. Nebude vám vadit, když to nahraju?

Jennifer Strongová : Ne, to je v pořádku.

Jennifer Strong: A dá na obrazovku starou fotku z mého účtu na LinkedIn.

Hoan Ton-To : Takže na levé straně? Vidíte toto nové tlačítko vyhledávání, kde vyberete fotku? Takže toto je ten, který budu používat. neboj. Na obrazovku kromě nás nikdo nevidí (smích).

A tak to trvalo, víte, asi vteřinu. Uh, a můžete vidět odkaz, na který můžete kliknout. Ale jak to procházíme, tak to je, uh, z Twitteru. Pamatujete si vůbec tuhle fotku?

Jennifer Strongová : Ummm ne, nevěděl jsem, že to bylo pořízeno... Vypadám velmi...

Hoan Ton-To : To jo. Děláš. Vypadáš v tom velmi vážně. To jo.

Tady máte přednášku v The Wall Street Journal, Budoucnost všeho.

Jennifer Strongová : To jo.

Hoan Ton-To : Děláte rozhovor s někým tady v Duke Health. Takže, jak jsem řekl, všechny tyto věci jsou veřejně dostupné. Takže v podstatě to tak funguje.

Jennifer Strong: Není zde nic neobvyklého. Jen obrázky, na kterých jsem v práci, hlásil příběhy a hostoval panely v různých městech – i když je trochu nepříjemné najít své fotografie, které jsem nikdy neviděl – a znovu to přináší tuto ožehavou otázku souhlasu.

Víte, je nepravděpodobné, že bych zaškrtl políčko udělující povolení společnostem jako Clearview seškrábat můj obrázek a použít ho k budování svých podniků.

Jde o to, že to nepotřebují.

Hned po tomto se za chvíli vrátíme.

Hoan Ton-To : To, co je na Clearview AI jedinečné a díky čemuž je pro lidi trochu těžší pochopit, je pouze vyhledávání veřejně dostupných informací.

Jennifer Strong: A právě zde Ton-That uvádí argument, o kterém možná budeme diskutovat a vést soudní spory ještě mnoho let: že otevřený internet, jak ho známe, včetně věcí, jako je vyhledávání Google, by ve skutečnosti neexistoval, kdybychom zavedli omezení na používání online data.

Hoan Ton-To : LinkedIn je miliardová společnost nebo společnost Microsoft za bilion dolarů, nemají právo blokovat přístup jiných lidí k veřejným datům. Takže je to věc, která je tak trochu na zajímavém místě, protože vyhledává pouze veřejně dostupné informace a věci, které lidé chtějí mít v soukromí. Víme, že je nechceme oblepovat všude po internetu. Takže si myslím, že máme instinkt v tom, co chceme zachovat v soukromí a co chceme nechat veřejné, a tak to bude vždy.

Jennifer Strong: Dá se říct, že ne všichni s ním souhlasí.

Twitter patří mezi celou řadu společností, které společnosti Clearview poslaly příkaz k zastavení a ukončení a řekly jí, aby přestala seškrabávat své obrázky a smazala všechna svá data. Twitter také říká, že jejich zásady zakazují použití jejich dat pro rozpoznávání obličeje. Vzhledem k tomu, že už seškrábal miliardy snímků, bylo by vám odpuštěno, když jste se divili, kolik dalších informací ještě může zachytit.

Ale je to jen špička ledovce.

Hoan Ton-To : Stále nejsme ani 1 % toho, co je tam venku, když spustíte čísla, je to trochu šílené, kolik informací je venku. Takže pokud jde o soukromí, musíme se tak trochu podívat na sebe a říct si, dobře, dobrovolně sdílíme spoustu těchto informací. A to může být pravda, ale jak, jak se k tomu cítíme? Nemáme žádné soukromé informace jako Google nebo Facebook. Google má vaši polohu v systému Android neustále. Facebook zná všechny vaše zvyky a co máte rádi a co ne. Karta prozkoumání Instagramu je stejně fenomenální při zjišťování, co se vám líbí, je to trochu děsivé, ale znají mnohem více informací než to, co děláme my. A my se jen soustředíme na snahu ucházet se o to největší dobro, myslíme si, aby byl svět mnohem bezpečnější.

Jennifer Strong: A to pro něj znamená spolupracovat s policií.

Hoan Ton-To : Takže již v mnoha orgánech činných v trestním řízení, které používají rozpoznávání obličeje, mají postup, který říká, že nemůžete jen tak někoho zatknout na základě shody rozpoznávání obličeje. Stále musíte provést následný výzkum. Takže je vždy ve smyčce člověk, který kontroluje, zda je tato osoba správná? Mají správné jméno? Žije tato osoba ve stejné oblasti, kde byl spáchán trestný čin?

Jennifer Strong: Ale co lidé, kteří jsou křivě obviněni?

Ton-To by tvrdilo, že jde o lidské selhání. Stejně tak jsme stále zodpovědní za to, jak řídíme při používání GPS – když navigace říká odbočit vpravo a není to bezpečné – je na nás a na našem lidském mozku, abychom to ignorovali.

A připomíná nám, že lidé se také pletou.

Hoan Ton-To : Jedním příkladem jsou lidské sestavy. Projekt Innocence říká, že 70 % nepravdivých odsouzení pochází z svědectví očitých svědků. Takže, víte, pokud jste špatný policista a chcete někoho obvinit ze zločinu, který nespáchal, můžete tak trochu přimět lidi, aby si vybrali ze sestavy osobu, kterou chcete, a myslím, že technologie jako Clearview může ve skutečnosti pomoci přidat hodně transparentnosti a odpovědnosti. Něco, na co bychom se rádi podívali, je to, jak to může skutečně pomoci lidem, aby nebyli špatně identifikováni.

Jennifer Strong: Svým způsobem je tento argument proti člověk rozsudek? Je to totéž, co se používá proti předávání těchto rozhodnutí AI: je tam chyba, zaujatost a rasismus. Ale tam, kde Ton-That nevěří, že dokážeme lidi spolehlivě změnit, věří, že tyto věci ze svého systému odstranil.

Hoan Ton-To : A tak věříme, že jsme totálně vyřešili problém přesnosti a rasové zaujatosti, které tak trochu sužovaly jiné společnosti na rozpoznávání obličejů. A chceme, aby ostatní lidé věděli, že tuto technologii skutečně můžeme vzít a používat.

Jennifer Strong: Toto jsou velmi velká tvrzení, která možná ani nejsou možná, a v současné době neexistuje žádný způsob, jak je ověřit. Společnost Clearview neposkytla takový veřejný přístup, který by umožnil audit jejich systému stejným způsobem, jako to mají Amazon a další.

Říká, že společnost provedla svůj vlastní audit a sestavila nezávislou kontrolní komisi, která zaujala podobný přístup, jako když ACLU testovala Amazonův systém rozpoznávání obličejů tím, že procházela fotografiemi amerického Kongresu kolem databáze výstřelů – což jsou fotografie lidí, kteří byli zatčeni. za trestný čin.

Hoan Ton-To : A tak provedli tuto nezávislou studii. Ale místo toho, aby prohledával galerii 25 000 snímků, prohledal v té době galerii 2,8 miliardy fotografií. A dělali jsme další státní zákonodárné sbory, jako je stát New York a Texas. A každý z výsledků, které se objevily, byla správná osoba a procházeli jimi individuálně.

Jennifer Strong: Z pohledu společnosti Clearview to znamená, že tato technologie může skutečně pomoci justičnímu systému stát se spravedlivějším. Říká, že přiměli Jonathana Lippmana, hlavního soudce odvolacího soudu v New Yorku, aby byl součástí tohoto kontrolního panelu.

Hoan Ton-To : A opravdu věří, že když máte něco přesnějšího, je to lepší i pro obžalované. Nepůjdou do vězení za zločin, který nespáchali.

Jennifer Strong: Pokud má Silicon Valley značku, je to technooptimismus ohledně toho, jak jejich výtvory změní svět, ale bez břemene odpovědnosti za jakékoli nechtěné změny, které by s tím mohly souviset.

Možná opravdu by neměl být úkolem tvůrců technologií starat se o to, jaké druhy transparentnosti, dohledu a zábradlí jsou potřeba k ochraně veřejnosti.

Hoan Ton-To : Myslím, že je odpovědností vlády a tvůrců politik přijít s předpisy a technologické společnosti by měly mít místo u stolu a je v jejich zájmu mít místo u stolu. Někdy vidíte, že špatné zásady byly schváleny, protože nevědí, jak technologie funguje. Takže si myslím, že více technologických společností se zapojí do politiky.

Měli jsme hodně pozornosti, ale víme, že děláme správnou věc. A myslím si, že z dlouhodobého hlediska je jakákoliv nová technologie z tiskařského lisu kontroverzní... a to je jen část procesu. Volba není mezi nerozpoznáním obličeje a rozpoznáním obličeje. Je to mezi odpovědným rozpoznáváním obličejů a jakýmsi divokým západem.

Jennifer Strong: Jedna skupina, jejímž cílem je pomoci zkrotit tento divoký západ, je The Police Executive Research Forum. Nezisková organizace strávila poslední čtyři desetiletí tím, že pomáhala policejním šéfům řešit vznikající problémy.

Alexa Daniels-Shpall : Použití taserů. Používají fotoaparáty nošené na těle. Nyní se také podíváme na téma rozpoznávání obličeje.

Jennifer Strong: Alexa Daniels-Shpall vede tento výzkum ve spolupráci s americkým ministerstvem spravedlnosti.

Alexa Daniels-Shpall : Prováděli jsme v této oblasti mnoho výzkumů s cílem vypracovat některé národní směrnice. Používají to různými způsoby a všichni si tak nějak vyvinuli své vlastní postupy, protokoly a zásady.

Jennifer Strong: Dostaneme se k další epizodě... Ale prozatím je důležité, že její výzkum naznačuje, že přijetí Clearview policejními odděleními nemusí být tak rozšířené, jak se tvrdí. V lednu řekl New York Times, že jeho produkt začalo v posledním roce používat více než 600 donucovacích orgánů.

Alexa Daniels-Shpall : Viděli jsme jen hrstku těch, kteří uzavřeli formální smlouvu.

Jennifer Strong: Sečteno a podtrženo: policejní agentury používají Clearview. Ale mezi zkoušením a nákupem je velký rozdíl.

Alexa Daniels-Shpall : Vím, že to někteří zkoušeli a pak se rozhodli to nepoužívat. A alespoň někteří z nich, se kterými jsme mluvili, řekli, že to pro ně prostě nefungovalo tak dobře. A myslím, že to pravděpodobně závisí na tom, s čím to zkoušíte a kde v zemi jste. Protože, víte, nevím, že by někdo měl představu o tom, kde jako kolik obrazů vzniká v různých oblastech.

Jennifer Strong: A ne všechny policejní agentury, které to zkusily, tak učinily vědomě... nebo prostřednictvím oficiálních kanálů.

Alexa Daniels-Shpall : Vedoucí pracovníci zjistili, že společnost oslovila detektivy, aby to otestovali. A pak to přinesli svým šéfům, aby řekli: Hej, měli bychom se podívat, jak s tím pohnout kupředu. A manažeři tak nějak řekli, že to prozatím ukončíme a než se pohneme kupředu, projdeme si naše běžné procesy nákupu a hodnocení. // Bylo to trochu smíšené přijetí, řekl bych od různých agentur. A důležitější otázkou by bylo zjistit, kolik druhů trvalých dlouhodobých smluv a kolik agentur provedlo formální nákup, aby navázalo vztah se společností, spíše než jen ty bezplatné zkoušky, které probíhaly.

Jennifer Strong: Příště se setkáme s policií v USA, která používá ID obličeje…

Dori Koren : Je to trochu hollywoodské, ale udělali jsme to schválně, tak jsme chtěli, aby to vypadalo. Představte si tedy, že vejdete do velké místnosti a na přední stěně máte tento masivní displej – všechny druhy kamer se napájejí jako sledovací místnost, ale o něco pokročilejší, o trochu větší, o trochu pokročilejší.

Jennifer Strong: A zjistěte, jakou roli nevědomky hraje herec Woody Harrelson a další známé osobnosti při jmenování podezřelých z policie...

Tato epizoda byla nahlášena a produkována mnou, s Tate Ryan-Mosely a Emmou Cillekens, se zvláštním poděkováním Karen Hao a Benji Rosen. Editují nás Michael Reilly a Gideon Litchfield. Naším technickým ředitelem je Jacob Gorski.

Děkuji za poslech, jsem Jennifer Strong.

skrýt