V roce 2020 zastavme etiku AI a skutečně něco udělejme

AI etické volby Getty

Minulý rok, právě když jsem se začal zabývat umělou inteligencí, se svět AI dočkal velkého probuzení. V roce 2018 došlo ve výzkumu umělé inteligence k neuvěřitelným pokrokům – od posílení učení přes generativní adversariální sítě (GAN) až po lepší porozumění přirozenému jazyku. Rok ale také viděl několik vysoce kvalitních ilustrací škod, které mohou tyto systémy způsobit, když jsou nasazeny příliš zbrkle.

Tesla havaroval na autopilotu , zabití řidiče a havaroval samořídící Uber , zabití chodce. Komerční systémy rozpoznávání obličejů fungovaly strašně audity na lidé tmavé pleti , ale techničtí giganti je stejně dál prodávali zákazníkům, včetně orgánů činných v trestním řízení. Na začátku tohoto roku jsem v úvaze o těchto událostech napsal předsevzetí pro komunitu AI: Přestaňte s AI zacházet jako s magií a převezměte odpovědnost za její vytváření, aplikaci a etické regulování.

V některých ohledech se mé přání splnilo. V roce 2019 se o etice umělé inteligence hovořilo více než kdy předtím. Desítky organizací vytvořily etické směrnice AI; společnosti se vrhly na vytvoření odpovědných týmů AI a předváděly je před médii. Už je těžké zúčastnit se konference týkající se umělé inteligence, aniž by část programu byla věnována poselství souvisejícím s etikou: Jak ochráníme soukromí lidí, když umělá inteligence potřebuje tolik dat? Jak můžeme posílit postavení marginalizovaných komunit místo toho, abychom je vykořisťovali? Jak máme nadále věřit médiím tváří v tvář algoritmicky vytvářeným a distribuovaným dezinformacím?

Ale mluvit je jen to – to nestačí. Přes veškerou slovní službu, která se těmto problémům věnuje, zůstávají etické pokyny mnoha organizací v oblasti umělé inteligence vágní a obtížně proveditelné. Jen málo společností dokáže prokázat hmatatelné změny ve způsobu, jakým jsou produkty a služby AI hodnoceny a schvalovány. Upadáme do pasti etického mytí, kde je skutečné jednání nahrazeno povrchními sliby. V nejnaléhavějším příkladu Google vytvořil nominální etický výbor AI bez skutečného práva veta nad spornými projekty a s několika členy, jejichž zahrnutí vyvolalo kontroverze. Odpor okamžitě vedl k jeho rozpuštění.

Mezitím se potřeba větší etické odpovědnosti jen stala naléhavější. Stejné pokroky v GANech v roce 2018 vedly k šíření hyperrealistických deepfakes, které se nyní používají k cílení na ženy a narušují víru lidí v dokumentaci a důkazy. Nové poznatky vrhly světlo na obrovský dopad hlubokého učení na klima, ale organizace pokračovaly ve výcviku stále větších a energeticky náročnějších modelů. Učenci a novináři také odhalili, kolik lidé jsou za algoritmickou oponou. Průmysl umělé inteligence vytváří zcela novou třídu skrytých pracovníků — moderátorů obsahu, štítkovačů dat, přepisovatelů — kteří dřou v často brutálních podmínkách.

Ale ne všechno je temné a ponuré: rok 2019 byl rokem největší tlak na místní úrovni proti škodlivé umělé inteligenci od komunitních skupin, tvůrců politik a samotných technologických zaměstnanců. Některá města – včetně San Francisca a Oaklandu v Kalifornii a Somerville v Massachusetts – zakázala veřejné používání rozpoznávání obličejů a navrhovaná federální legislativa by mohla brzy zakázat to z veřejného bydlení v USA také. Zaměstnanci technologických gigantů, jako jsou Microsoft, Google a Salesforce, se také stále více ozývali proti tomu, aby jejich společnosti využívaly AI ke sledování migrantů a ke sledování dronů.

V rámci komunity AI výzkumníci také zdvojnásobili zmírnění zkreslení AI a přezkoumali pobídky, které vedou k rychlé spotřebě energie v terénu. Společnosti investovaly více prostředků do ochrany soukromí uživatelů a potírání hlubokých padělků a dezinformací. Odborníci a tvůrci politik pracovali v tandemu na návrhu promyšlené nové legislativy, která měla omezit nezamýšlené důsledky, aniž by utlumila inovace. Na největším každoročním letošním setkání v této oblasti mě dojalo i překvapilo, kolik klíčových prezentací, workshopů a plakátů se zaměřovalo na problémy skutečného světa – jak ty, které vytvořila umělá inteligence, tak ty, které by mohla pomoci vyřešit.

Takže zde je moje naděje pro rok 2020: že průmysl a akademická sféra udrží toto tempo a provedou konkrétní změny zdola nahoru a shora dolů, které přeorientují vývoj AI. Dokud máme ještě čas, neměli bychom ztrácet ze zřetele sen oživující pole. Před desítkami let začali lidé hledat inteligentní stroje, aby nám jednoho dne mohli pomoci vyřešit některé z našich nejtěžších výzev.

Jinými slovy, umělá inteligence má pomáhat lidstvu prosperovat. nezapomeňme

Chcete-li, aby bylo více takových příběhů doručeno přímo do vaší schránky, přihlaste se k odběru našeho zpravodaje o umělé inteligenci The Algorithm nominovaného Webby. Je to zdarma.

skrýt