Federálního nařízení o rozpoznávání obličejů bychom se mohli dočkat již příští týden

AP Photo/John Minchillo, Soubor

10. května zaslalo 40 advokátních skupin otevřený dopis požadovat trvalý zákaz o používání softwaru Amazon pro rozpoznávání obličeje, Rekognition, americkou policií. Dopis byl adresován Jeffu ​​Bezosovi a Andymu Jassymu, současným a budoucím generálním ředitelům společnosti, a přišel jen několik týdnů před Roční moratorium Amazonu o prodeji orgánům činným v trestním řízení vypršela.

Dopis postavil do kontrastu Bezosovu a Jassyho hlasitou podporu aktivistů Black Lives Matter během loňských letních protestů proti rasové spravedlnosti po vraždě George Floyda s tím, že další produkty Amazonu byly použity orgány činnými v trestním řízení k identifikaci demonstrantů .

17. května Amazon oznámil prodloužil by své moratorium na neurčito a připojil by se ke konkurentům IBM a Microsoft v samoregulovaném očistci. Tento krok je kývnutím na politickou moc skupin bojujících za omezení technologie – a uznáním, že se začínají objevovat nové legislativní bitevní pole. Mnozí věří, že podstatná federální legislativa pravděpodobně brzy přijde.

Lidé jsou vyčerpaní

Minulý rok byl klíčové pro rozpoznávání obličeje s odhalením role technologie v falešné zatčení , a zákazy na to zavedené téměř dvě desítky měst a sedm států po celých USA. Dynamika se ale už nějakou dobu posouvá.

V roce 2018 publikovali výzkumníci AI studie porovnání přesnosti komerčního softwaru pro rozpoznávání obličeje od IBM, Microsoftu a Face++. Jejich práce zjistila, že technologie identifikuje muže se světlejší pletí mnohem přesněji než ženy s tmavší pletí; Nejhůře dopadl systém IBM s 34,4% rozdílem v chybovosti mezi těmito dvěma skupinami.

Také v roce 2018, ACLU testovala Amazon’s Rekognition a zjistil, že chybně označil 28 členů Kongresu za zločince – což je chyba, která neúměrně ovlivňuje lidi s jinou barvou pleti. Organizace napsal svůj vlastní otevřený dopis Amazonu s požadavkem, aby společnost zakázala používání této technologie vládou, stejně jako Kongresový černý výbor – ale Amazon neprovedl žádné změny.

(Mluvčí společnosti Amazon odkázal MIT Technology Review na a vyvrácení zveřejněné v červenci 2018, které uvádí problémy, které měla společnost s přesností a metodami testu ACLU.)

'Pokud se zavážeme k rasové spravedlnosti v systému trestní justice... jednou z nejjednodušších a nejjasnějších věcí, které můžete udělat, je ukončit používání technologie rozpoznávání obličejů.'

Kate Ruane, ACLU

Během hnutí rasové spravedlnosti proti policejní brutalitě loni v létě však Amazon mnohé překvapil oznámením, že zastavuje policejní používání Rekognition, s výjimkami pro federální policisty, jako je ICE. Oznámení společnosti uvedlo, že doufá, že pauza poskytne Kongresu dostatek času na zavedení vhodných pravidel.

Evan Greer je ředitelem Fight for the Future, technologické skupiny, která věří ve zrušení technologie rozpoznávání obličejů a říká, že její regulace roste u veřejnosti. Říká, že prodloužení moratoria z tohoto týdne ukazuje, že Amazon reaguje na tento obrovský tlak, který dostávají, a to nejen v oblasti rozpoznávání obličejů, a dodává, že opravdu přikládám obrovské uznání celonárodním povstáním za rasovou spravedlnost, ke kterým došlo za poslední rok. a půl.

Politická realita

Přestože je na velké poskytovatele technologií vyvíjen tlak, realita je taková, že většina uživatelů z oblasti vymáhání práva a vlády nenakupuje software pro rozpoznávání obličeje od společností jako Amazon. Takže i když jsou moratoria a zákazy vítány zájmovými skupinami, nemusí nutně bránit používání technologií. Kongres mezitím ještě neschválil žádnou federální legislativu o rozpoznávání obličeje v donucovacích, vládních nebo komerčních prostředích, která by regulovala menší poskytovatele.

Někteří doufají, že federální legislativa brzy přijde, ať už prostřednictvím přímé akce Kongresu, prezidentského výkonného příkazu nebo nadcházejících zákonů o přivlastňování a policejní reformě.

Myslím, že nejlepším scénářem je, že Kongres schválí moratorium na jeho používání, říká Kate Ruane, senior legislativní poradce ACLU. Myslí si, že nové využití by mělo být povoleno až po větší legislativní práci.

Již bylo navrženo několik federálních zákonů, které by omezily přístup k rozpoznávání obličejů.

• The Zákon o moratoriu na rozpoznávání obličeje a biometrické technologie vyzývá k zákazu používání softwaru jakýmikoli federálními subjekty a zadržování peněz z federálních grantů od všech státních a místních úřadů, které neuzákoní své vlastní moratorium. Navrhli ji čtyři demokratičtí členové Kongresu a loni ji představili Senátu.
• The George Floyd Justice in Policing Act by zabránila použití rozpoznávání obličeje v tělesných kamerách. Návrh zákona již prošel Sněmovnou a očekává se, že se tento týden dostane do Senátu. Prezident Biden požádal, aby byl návrh zákona schválen před výročím smrti George Floyda 25.
• The Čtvrtý dodatek zákona není na prodej , dvoustranný návrh zákona předložený 18 senátory, omezuje vládu ve spolupráci s poskytovateli technologií, kteří porušují podmínky služby. V praxi by to do značné míry bránilo vládě v přístupu k systémům, které se zabývají odstraňováním webových stránek, jako je Clearview AI .

Mutale Nkonde, zakládající generální ředitel AI for the People, neziskové organizace, která obhajuje rasovou spravedlnost v technologiích, věří, že pravděpodobně uvidíme další federální legislativu do pololetních voleb v příštím roce.

Myslím si, že bude zavedena federální legislativa, která bude řídit všechny algoritmické systémy, včetně rozpoznávání obličeje, říká Nkonde. Myslím, že to je politická realita.

Nkonde říká, že koncept hodnocení dopadu, který hodnotí technologické systémy na základě občanských práv, získává na popularitě v politických kruzích na obou stranách uličky.

ACLU lobbuje u Bidenovy administrativy za výkonné nařízení, a to nedávno zveřejnila dopis se 40 dalšími skupinami žádá okamžitý zákaz používání této technologie vládou.

Pokud se zavážeme k rasové spravedlnosti, pokud se zavážeme k rasové spravedlnosti v systému trestní justice, zavážeme se k takovým reformám, jedna z nejjednodušších a nejjasnějších věcí, které můžete udělat, je skončit použití technologie rozpoznávání obličeje, říká Ruane.

Lidé jsou prostě radikálnější

Mezitím Ruane očekává, že samoregulace zůstane jednou z nejúčinnějších metod prevence rozšířeného používání rozpoznávání obličeje. Je pravděpodobné, že federální agentury, jako je ministerstvo pro bydlení, vnitřní bezpečnost a školství, zváží zavedení pravidel zakazujících používání této technologie. .

Nkonde je optimistický, že se moratoria rozšíří do zákazů a trvalejší legislativy: myslím, že moratoria se zdála být tím, co bylo možné před zabitím George Floyda. Poté jsou lidé prostě radikálnější.

Greer však varuje, že přes veškerou dynamiku proti rozpoznávání obličejů nemusí legislativa, která se silně zaměřuje na rasovou přesnost systémů, vyřešit hlubší problémy. Myslím, že by bylo chybou, kdyby tvůrci politik považovali přesnost za jediný problém s rozpoznáváním obličeje, který je třeba řešit, říká. Průmysl by byl ve skutečnosti velmi spokojený s návrhem zákona, který například říká něco jako ‚Pokud se chystáte prodávat systém rozpoznávání obličeje, musí být 99% přesný na lidi všech různých ras a odstínů pleti.‘

I když zaujatost není zapečena v systému, stále máte neobjektivní policejní systém, který je nyní touto technologií zrychlován a jaksi přeplňován, dodává.

Tento příběh byl aktualizován, aby zahrnoval vyvrácení Amazonu k testu ACLU systému Amazon Rekognition v roce 2018.

skrýt