Ministerstvo obrany vydává etické pokyny pro AI pro dodavatele technologií

paní Tech | Getty

V roce 2018, kdy se zaměstnanci společnosti Google dozvěděli o zapojení jejich společnosti do Projekt Maven , kontroverzní americké vojenské úsilí vyvinout AI pro analýzu sledovacího videa, nebyli šťastní. Tisíce lidí protestovaly. Jsme přesvědčeni, že Google by neměl být ve válečném byznysu, napsali v a dopis vedení společnosti . Zhruba desítka zaměstnanců dala výpověď. Google smlouvu v roce 2019 neobnovil.

Project Maven stále existuje a místo Google od té doby zaujaly jiné technologické společnosti, včetně Amazonu a Microsoftu. Americké ministerstvo obrany však ví, že má problém s důvěrou. To je něco, co musí vyřešit, aby si udrželi přístup k nejnovějším technologiím, zejména AI – což bude vyžadovat partnerství s Big Tech a dalšími nevojenskými organizacemi.

Související příběh

Americké vládní agentury plánují zvýšit používání technologie rozpoznávání obličeje

Nový průzkum ukazuje, že kontroverzní systémy jsou připraveny hrát ještě větší roli ve federálním podnikání.

Ve snaze podpořit transparentnost zveřejnila Oddělení pro inovace obrany, které společnostem uděluje zakázky DoD, tzv. odpovědné pokyny pro umělou inteligenci že bude vyžadovat použití vývojářů třetích stran při vytváření umělé inteligence pro armádu, ať už jde o umělou inteligenci pro HR systém nebo rozpoznávání cílů.

Pokyny poskytují společnostem proces krok za krokem, kterým se mohou řídit během plánování, vývoje a nasazení. Zahrnují postupy pro identifikaci toho, kdo by mohl technologii používat, kdo by jí mohl být poškozen, jaká tato poškození mohou být a jak se jim lze vyhnout – jak před vytvořením systému, tak po jeho uvedení do provozu.

Neexistují žádné další pokyny, ať už v rámci ministerstva obrany nebo, upřímně řečeno, vlády Spojených států, které by zacházely do této úrovně podrobností, říká Bryce Goodman z oddělení pro inovace obrany, který je spoluautorem pokynů.

Tato práce by mohla změnit způsob, jakým je AI vyvíjena vládou USA, pokud budou pokyny ministerstva obrany přijaty nebo upraveny jinými ministerstvy. Goodman říká, že je on a jeho kolegové předali NOAA a ministerstvu dopravy a mluví s etickými skupinami v rámci ministerstva spravedlnosti, správy všeobecných služeb a IRS.

Účelem pokynů je zajistit, aby se tech dodavatelé drželi stávajícího ministerstva obrany etické zásady pro AI , říká Goodman. Ministerstvo obrany oznámilo tyto principy v loňském roce po dvouleté studii zadané Defence Innovation Board, poradním panelem předních technologických výzkumníků a obchodníků, který byl zřízen v roce 2016, aby přinesl jiskru Silicon Valley americké armádě. Předsedou rady byl do září 2020 bývalý generální ředitel společnosti Google Eric Schmidt a jejími současnými členy jsou Daniela Rus, ředitelka laboratoře Computer Science and Artificial Intelligence Lab na MIT.

Přesto se někteří kritici ptají, zda dílo slibuje nějakou smysluplnou reformu.

Během studie rada konzultovala řadu odborníků, včetně hlasitých kritiků vojenského používání umělé inteligence, jako jsou členové Campaign for Killer Robots a Meredith Whittaker, bývalá výzkumnice společnosti Google, která pomáhala organizovat protesty Project Maven.

Whittaker, který je nyní ředitelem fakulty na AI Now Institute New York University, nebyl k dispozici k vyjádření. Podle Courtney Holsworth, mluvčí institutu, se ale zúčastnila jedné schůzky, kde se dohadovala s vysokými členy představenstva včetně Schmidta o směru, kterým se ubírá. Nikdy s ní nikdo smysluplně nekonzultoval, říká Holsworth. Tvrzení, že byla, by se dalo chápat jako forma etického praní, ve kterém se přítomnost nesouhlasných hlasů během malé části dlouhého procesu používá k tvrzení, že daný výsledek má širokou odezvu od relevantních zúčastněných stran.

Pokud ministerstvo obrany nemá široký buy-in, mohou jeho pokyny přesto pomoci vybudovat důvěru? Budou lidé, kteří nikdy nebudou spokojeni s žádným souborem etických směrnic, které ministerstvo obrany vytvoří, protože považují tuto myšlenku za paradoxní, říká Goodman. Je důležité být realističtí ohledně toho, co pokyny mohou a co ne.

Směrnice například neříkají nic o použití smrtících autonomních zbraní, což je technologie, o které někteří aktivisté tvrdí, že by měla být zakázána. Goodman však poukazuje na to, že předpisy upravující takovou technologii se rozhodují výše v řetězci. Cílem pokynů je usnadnit vytváření umělé inteligence, která splňuje tato nařízení. A součástí tohoto procesu je explicitně vyjádřit jakékoli obavy, které mají vývojáři třetích stran. Platnou aplikací těchto pokynů je rozhodnutí neuplatňovat konkrétní systém, říká Jared Dunnmon z DIU, který je spoluautorem. Můžete se rozhodnout, že to není dobrý nápad.

Související příběh

Proč by výzkumníci AI měli přehodnotit protestní zapojení do vojenských projektů Jeden poradce ministerstva obrany tvrdí, že konstruktivní zapojení bude úspěšnější než neúčast.

Margaret Mitchellová, výzkumnice AI ve společnosti Objímání obličeje , který spoluvedl Etický tým AI společnosti Google s Timnit Gebru než byli oba vytlačen ze společnosti , souhlasí s tím, že etické pokyny mohou pomoci učinit projekt transparentnějším pro ty, kteří na něm pracují, alespoň teoreticky. Mitchell seděl v první řadě během protestů v Googlu. Jednou z hlavních výtek zaměstnanců bylo, že společnost předávala armádě výkonné technologie bez zábran, říká: Lidé nakonec odcházeli konkrétně kvůli nedostatku jakýchkoli jasných pokynů nebo transparentnosti.

Pro Mitchella nejsou problémy jasné. Myslím, že někteří lidé v Googlu rozhodně cítili, že veškerá práce s armádou je špatná, říká. Já mezi ty lidi nepatřím. Mluvila s ministerstvem obrany o tom, jak může spolupracovat se společnostmi způsobem, který podporuje jejich etické zásady.

Myslí si, že existuje nějaký způsob, jak jít, než ministerstvo obrany získá potřebnou důvěru. Jedním z problémů je, že některé formulace v pokynech lze interpretovat. Například uvádějí: Ministerstvo podnikne promyšlené kroky k minimalizaci nezamýšleného zkreslení schopností AI. A co zamýšlená zaujatost? Může se to zdát jako hnidopich, ale rozdíly ve výkladu závisí na tomto druhu detailu.

Sledování používání vojenských technologií je obtížné, protože obvykle vyžaduje bezpečnostní prověrku. Aby se to vyřešilo, Mitchell by rád viděl, aby smlouvy ministerstva obrany poskytovaly nezávislé auditory s nezbytnou prověrkou, kteří mohou společnosti ujistit, že pokyny jsou skutečně dodržovány. Zaměstnanci potřebují určitou záruku, že pokyny jsou vykládány tak, jak očekávají, říká.

skrýt