211service.com
Kongres vás chce chránit před neobjektivními algoritmy, deepfake a další špatnou AI
Simone Nironha
Minulou středu američtí zákonodárci představili a nový účet což představuje jedno z prvních velkých úsilí země regulovat AI. Je pravděpodobné, že přibudou další.
Naznačuje dramatický posun postoje Washingtonu k jedné z nejvýkonnějších technologií tohoto století. Ještě před několika lety měli tvůrci politik malý sklon regulovat umělou inteligenci. Nyní, když jsou důsledky toho, že tak neučiníte, stále hmatatelnější, malý kontingent v Kongresu prosazuje širší strategii, jak ovládnout technologii.
Ačkoli USA nejsou v tomto úsilí samy – Spojené království, Francie , Austrálie a další, všichni nedávno vypracovali nebo schválili legislativu, aby technologické společnosti byly odpovědné za jejich algoritmy – tato země má jedinečnou příležitost ovlivnit globální dopad AI jako domov Silicon Valley. Problémem v Evropě je, že nejsme průkopníky ve vývoji AI, říká Bendert Zevenbergen, bývalý poradce pro technologickou politiku v Evropském parlamentu a nyní výzkumník na Princetonské univerzitě. V mnoha ohledech jsme příjemci technologie AI. Jsme jednoznačně druhá řada. První úrovní jsou USA a Čína.
Nový zákon, nazvaný Algorithmic Accountability Act, by od velkých společností vyžadoval, aby provedly audit jejich systémů strojového učení z hlediska zkreslení a diskriminace a aby včas přijaly nápravná opatření, pokud by byly takové problémy zjištěny. Po těchto společnostech by také vyžadovalo, aby provedly audit nejen strojového učení, ale všech procesů zahrnujících citlivá data – včetně osobně identifikovatelných, biometrických a genetických informací – z hlediska rizik pro soukromí a zabezpečení. Pokud by návrh zákona prošel, svěřil by regulační pravomoc do rukou Federální obchodní komise USA, agentury odpovědné za ochranu spotřebitelů a antimonopolní regulaci.
Návrh legislativy je prvním produktem mnohaměsíčních diskusí mezi zákonodárci, výzkumníky a dalšími odborníky na ochranu spotřebitelů před negativními dopady umělé inteligence, říká Mutale Nkonde, výzkumník z Data & Society Research Institute, který byl do procesu zapojen. Přichází v reakci na několik významných odhalení v minulém roce, která ukázala, že algoritmické zkreslení může mít v mnoha kontextech dalekosáhlé škody. Patří mezi ně Amazon interní náborový nástroj to penalizovalo kandidátky; komerční platformy pro analýzu a rozpoznávání obličejů, které jsou mnohem méně přesné pro ženy s tmavší pletí než pro muže se světlejší pletí; a většinou nedávno i algoritmus pro doporučení reklamy na Facebooku, který pravděpodobně udržuje diskriminaci v zaměstnání a bydlení bez ohledu na specifikované cílové publikum inzerenta.
Související příběh
Související příběh Předpojatost se může vplížit v mnoha fázích procesu hlubokého učení a standardní postupy v informatice nejsou navrženy tak, aby ji odhalily.Návrh zákona již ocenili členové etické a výzkumné komunity AI jako důležitý a promyšlený krok k ochraně lidí před takovými nezamýšlenými nesourodými dopady. Skvělý první krok, napsal Andrew Selbst, odborník na technologie a právo ve společnosti Data & Society Cvrlikání . Vyžadovalo by dokumentaci, posouzení a pokusy o řešení předpokládaných dopadů. To je nové, vzrušující a neuvěřitelně potřebné.
Také to nebude jediný krok. Návrh, říká Nkonde, je součástí širší strategie, která má v budoucnu přinést regulační dohled na jakékoli procesy a produkty umělé inteligence. Pravděpodobně brzy bude předložen další návrh zákona, který se bude zabývat šířením dezinformací, včetně deepfakes, jako hrozby pro národní bezpečnost, říká. Další účet představený v úterý by zakázal manipulativní designové praktiky, které tech giganti někdy používají, aby přiměli spotřebitele, aby se vzdali svých dat. Je to mnohostranný útok, říká Nkonde.
Každý návrh zákona je záměrně rozsáhlý a zahrnuje různé produkty umělé inteligence a datové procesy v různých doménách. Jednou z výzev, se kterou se Washington potýká, je, že lze použít technologii, jako je rozpoznávání obličejů výrazně odlišné účely napříč průmyslovými odvětvími , jako je vymáhání práva, automobilový průmysl a dokonce i maloobchod. Z regulačního hlediska jsou naše produkty specifické pro dané odvětví, říká Nkonde. Regulátoři, kteří se zabývají auty, nejsou stejní regulátoři, kteří se zabývají uzavíráním smluv ve veřejném sektoru, nejsou stejní regulátoři, kteří se zabývají spotřebiči.
Kongres se snaží přemýšlet o tom, jak přepracovat tradiční regulační rámec, aby vyhovoval této nové realitě. Bude však obtížné to udělat, aniž bychom v různých kontextech vnutili univerzální řešení. Vzhledem k tomu, že rozpoznávání obličeje se používá pro tolik různých věcí, bude těžké říci: ‚To jsou pravidla pro rozpoznávání obličejů,‘ říká Zevenbergen.
Nkonde předpokládá, že tento regulační pohyb nakonec povede ke vzniku nového úřadu nebo agentury specificky zaměřené na pokročilé technologie. Na cestě však budou velké překážky. Zatímco ochrana proti dezinformacím a manipulativnímu shromažďování dat získala podporu obou stran, zákon o algoritmické odpovědnosti je sponzorován třemi demokraty, což snižuje pravděpodobnost, že bude schválen Senátem kontrolovaným republikány a podepsán prezidentem Trumpem. Kromě toho má v současné době pouze hrstka členů Kongresu dostatečně hluboké technické znalosti dat a strojového učení, aby přistupovali k regulaci náležitě nuancovaným způsobem. Tyto nápady a návrhy jsou právě teď tak trochu mezerou, říká Nkonde. Máte tyto tři nebo čtyři členy, kteří jim rozumí.
Ale zůstává optimistická. Součástí strategie posouvání kupředu je vzdělávat více členů o problémech a přivést je na palubu. Jak je budete poučovat o tom, co tyto návrhy zákonů zahrnují, a jak zákony získávají spolusponzory, budou se přesouvat stále více do centra, dokud nebude regulace technologického průmyslu hračkou, říká.
Tento příběh se původně objevil v našem zpravodaji o umělé inteligenci The Algorithm nominovaném Webbym. Chcete-li jej doručit přímo do vaší schránky, zaregistrujte se zdarma zde.