211service.com
Jsme v krizi rozmanitosti: spoluzakladatel Black in AI o tom, co otravuje algoritmy v našich životech
Timnit Gebru se rozhlíží po světě AI a nevidí téměř nikoho, kdo by vypadal jako ona. To je problém nás všech. 14. února 2018
s laskavým svolením timnit brug
Umělá inteligence je stále více bezproblémovou součástí našich každodenních životů a je přítomna ve všem, od vyhledávání na webu přes sociální média až po domácí asistenty, jako je Alexa. Co ale uděláme, když je tato nesmírně důležitá technologie neúmyslně, ale zásadně neobjektivní? A co uděláme, když tento nesmírně důležitý obor nezahrnuje téměř žádné černé badatele? Timnit Gebru se těmito otázkami zabývá v rámci skupiny Microsoft Fairness, Accountability, Transparency and Ethics in AI, ke které se připojila loni v létě. V roce 2017 také spoluzaložila akci Black in AI na konferenci Neural Information Processing Systems (NIPS) a byla v řídícím výboru první konference Fairness and Transparency v únoru. Mluvila s MIT Technology Review o tom, jak se zkreslení dostává do systémů umělé inteligence a jak tomu může čelit diverzita.
Jak nedostatek rozmanitosti deformuje umělou inteligenci a konkrétně počítačové vidění?
Tento příběh byl součástí našeho vydání z března 2018
- Viz zbytek čísla
- předplatit
Můžu o tom mluvit celý rok. Existuje zaujatost ohledně toho, jaké druhy problémů považujeme za důležité, jaké druhy výzkumu považujeme za důležité a kam by se podle nás měla AI ubírat. Pokud nebudeme mít rozmanitost v naší skupině výzkumníků, nebudeme řešit problémy, kterým čelí většina lidí na světě. Když se nás problémy netýkají, nemyslíme si, že jsou tak důležité, a možná ani nevíme, o jaké problémy jde, protože nekomunikujeme s lidmi, kteří je zažívají.
Když jsem začal Black in AI, začal jsem to s několika mými přáteli. Před tím jsem měl malý mailing list, kam jsem doslova přidal každého černocha, kterého jsem v tomto poli viděl, do mailing listu a řekl: ‚Ahoj, já jsem Timnit. Jsem černoch číslo dvě. Ahoj, černoch číslo jedna. Buďme přátelé.'
Existují způsoby, jak čelit zaujatosti v systémech?
Důvod, proč je rozmanitost v AI opravdu důležitá, nejen v souborech dat, ale také ve výzkumných pracovníkech, je ten, že potřebujete lidi, kteří prostě mají sociální smysl pro to, jak se věci mají. Jsme v krizi rozmanitosti pro AI. Kromě technických konverzací, konverzací o právu, konverzací o etice musíme vést konverzace o rozmanitosti v AI. V AI potřebujeme nejrůznější rozmanitost. A s tím je třeba zacházet jako s něčím, co je extrémně naléhavé.
Z technického hlediska existuje mnoho různých druhů přístupů. Jedním z nich je diverzifikovat svůj soubor dat a mít k němu mnoho různých anotací, jako je rasa, pohlaví a věk. Jakmile model vycvičíte, můžete jej otestovat a zjistit, jak dobře funguje ve všech těchto různých podskupinách. Ale i poté, co to uděláte, budete mít ve svém souboru dat určité zkreslení. Nemůžete mít soubor dat, který dokonale vzorkuje celý svět.
Něco, co mě opravdu nadchlo a na čem právě pracuji, je přijít na to, jak povzbudit společnosti, aby poskytovaly více informací uživatelům nebo dokonce výzkumníkům. Měli by mít doporučené použití, jaká jsou úskalí, jak zaujatá je datová sada atd. Abych, když jsem startup a právě si vezmu vaši běžnou datovou sadu nebo model z police a Když to začlením do čehokoli, co dělám, mám alespoň nějaké znalosti o tom, jaké druhy úskalí tam mohou být. Právě teď jsme na místě téměř jako na Divokém západě, kde ve skutečnosti nemáme mnoho standardů, kam bychom dávali soubory dat.
A pak jsou tu jen některé věci, pro které byste strojové učení pravděpodobně neměli používat právě teď, a my nemáme jasný návod, co to je. Měli bychom říci, že pokud budete pro tento konkrétní úkol používat strojové učení, přesnost vašeho modelu by měla být alespoň X a měla by být v tomto konkrétním ohledu spravedlivá. Ani na to nemáme žádné návody. Umělá inteligence se právě začíná začleňovat do hlavního proudu, do produktu všude, takže jsme na propasti, kde skutečně potřebujeme nějaký druh rozhovoru o standardizaci a používání.
POUŽITO S DOHLEDEM NA TIMNITU
Jaká byla hlavní motivace vaší práce s Google Street View a dalším demografickým výzkumem?
V době, kdy jsme s tímto projektem začínali, bylo vykonáno velmi málo práce na pokusu analyzovat kulturu pomocí obrázků. Ale víme, že online je většina našich dat ve formě obrázků. Jednou z našich motivací bylo ukázat, že můžete provádět sociální analýzy pomocí obrázků.
To by mohlo být velmi užitečné v případech, kdy je získání dat na základě průzkumu opravdu obtížné. Na světě jsou místa, kde neexistuje infrastruktura a zdroje, které by posílaly lidi od dveří ke dveřím a shromažďovaly údaje [sčítání lidu], [ale kde] by porozumění různým typům populací, které ve vaší zemi žijí, být velmi nápomocný.
Ale zase, to je přesně ta věc, která mě také přiměla studovat férovost. Protože pokud budu pokračovat v této linii práce, opravdu potřebuji lépe porozumět potenciálně negativním důsledkům. Jaké jsou důsledky pro sledování? Také, jaké jsou důsledky zkreslení souboru dat? V jakémkoli projektu dolování dat budete mít zaujatost. Takže moje práce tam byla skutečně to, co mě vedlo k tomu, že jsem chtěl strávit nějaký čas v komunitě spravedlivosti, abych pochopil, kde mohou být úskalí.
Jaké problémy chcete vyřešit na této první konferenci o Fairness and Transparency?
Toto je skutečně první konference, která se zabývá otázkami spravedlnosti, odpovědnosti, etiky a transparentnosti v AI. Proběhly workshopy na jiných konferencích a většinou to byly workshopy buď na konferencích založených na zpracování přirozeného jazyka nebo na konferencích založených na strojovém učení. Je opravdu důležité mít samostatnou konferenci, protože na ní musí pracovat lidé z mnoha oborů, kteří spolu mluví.
Strojově-učení lidé sami tento problém vyřešit nemohou. Existují otázky transparentnosti; existují otázky, jak by měly být zákony aktualizovány. Pokud se chystáte hovořit o zkreslení ve zdravotnictví, chcete si promluvit s [zdravotnickými profesionály] o tom, kde by mohly být potenciální zkreslení, a pak můžete přemýšlet o tom, jak mít řešení založené na strojovém učení.
Jaké jsou vaše zkušenosti s prací v AI?
Není to lehké. Miluji svojí práci. Miluji výzkum, na kterém pracuji. Miluji pole. Nedovedu si představit, co jiného bych v tomto ohledu dělal. Jak již bylo řečeno, je velmi těžké být černoškou v tomto oboru. Když jsem začal Black in AI, začal jsem to s několika mými přáteli. Před tím jsem měl malý mailing list, kam jsem doslova přidal každého černocha, kterého jsem v tomto poli viděl, do mailing listu a řekl: Ahoj, já jsem Timnit. Jsem černoch číslo dvě. Ahoj, černoch číslo jedna. Buďme přátelé.
To, co to skutečně zrychlilo, bylo [v roce 2016], když jsem šel do NIPS a někdo říkal, že tam bylo odhadem 8 500 lidí. Napočítal jsem šest černochů. Doslova jsem zpanikařil. To je jediný způsob, jak mohu popsat, jak jsem se cítil. Viděl jsem, že toto pole roste exponenciálně a zasahuje do hlavního proudu; dotýká se každé části společnosti. Zároveň jsem také viděl spoustu rétoriky o diverzitě a o tom, jak mnoho společností ji považuje za důležitou.
A viděl jsem nesoulad mezi rétorikou a jednáním. Protože šest černochů z 8 500 – to je směšné číslo, že? To je téměř nula procent. Říkal jsem si: Musíme teď něco udělat. Chci vyzvat k akci lidem, kteří věří, že rozmanitost je důležitá. Protože jde o stav nouze a musíme s tím teď něco udělat.