211service.com
Začal jsem plakat: Uvnitř posledních dnů Timnita Gebru v Googlu – a co bude dál
.
Nhung Le
16. prosince 2020
Teď už jsme všichni slyšeli nějakou verzi příběhu. 2. prosince, po vleklé neshodě ohledně zveřejnění výzkumné práce, Google vynutila svého etického spoluvedoucího AI Timnit Gebru . Papír byl na rizika velkých jazykových modelů , modely umělé inteligence trénované na ohromujícím množství textových dat, které jsou hlavním výzkumným jádrem podnikání společnosti Google. Gebru, přední hlas v etice umělé inteligence, byla jednou z mála černošek ve výzkumu Google.
Tento krok od té doby vyvolal debatu o rostoucím firemním vlivu na AI, o dlouhodobém nedostatku rozmanitosti v technologiích a o tom, co to znamená dělat smysluplný výzkum etiky AI. K 15. prosinci mělo více než 2 600 zaměstnanců Google a 4 300 dalších v akademické sféře, průmyslu a občanské společnosti podepsal petici odsuzovat propuštění společnosti Gebru a nazývat to bezprecedentní cenzurou výzkumu a aktem odvety.
Související příběh
Četli jsme noviny, které donutily Timnita Gebru z Googlu. Zde je to, co říká. Hvězdný výzkumník etiky společnosti upozornil na rizika velkých jazykových modelů, které jsou pro podnikání Google klíčové.
Gebru je známý pro základní práci v odhalující diskriminaci AI , rozvíjející se metody pro dokumentaci a auditování modelů AI a obhajovat větší rozmanitost ve výzkumu. V roce 2016 spoluzaložila nezisková organizace Black in AI , který se stal ústředním zdrojem pro aktivisty za občanská práva, organizátory práce a přední výzkumníky etiky umělé inteligence, který kultivuje a vyzdvihuje talenty černošského výzkumu AI.
Ztráta zaměstnání Gebru nezpomalila. Následující týden se zúčastnila několika workshopů na NeurIPS, největší výroční výzkumné konferenci AI, které se letos zúčastnilo přes 20 000 lidí. Bylo terapeutické, říká, vidět, jak se komunita, kterou pomáhala budovat, objevila a vzájemně se podporovala. Nyní, o další týden později, se jen uklidňuje a lapá po dechu – a snaží se tomu všemu dát smysl.
V pondělí 14. prosince jsem stihl Gebru přes Zoom. Vyprávěla o tom, co se stalo během jejího působení ve společnosti Google, zamyslela se nad tím, co to znamenalo pro obor a výzkum etiky umělé inteligence, a poskytla slova na rozloučenou těm, kteří chtějí držet technologické společnosti k odpovědnosti. Můžete si také poslechnout speciální epizodu našeho podcastu In Machines We Trust, kde najdete zajímavosti z rozhovoru. (Google odmítl žádost o komentář k obsahu tohoto rozhovoru.)
Následující text byl upraven a zhuštěn.
Chtěl jsem se nejdřív podívat, jak se máš.
Mám pocit, že jsem vlastně neměl čas zpracovat vše, co se stalo, a jeho emocionální důsledky. Prostě tak nějak jdu a jdu a jdu. Takže mám pocit, že se pravděpodobně někdy rozpadnu, až bude trochu klid. Ale právě teď mě velmi znepokojuje můj tým a lidé, kteří mě podporují, a typy rizik, která podstupují, a zajištění toho, aby proti nim nebyla odveta.
Existuje mnoho zpráv o tom, co se stalo. Chtěl jsem začít od mnohem dřívějšího bodu tohoto příběhu. Co vás vedlo k tomu, že jste se původně rozhodl pracovat ve společnosti Google a jaký byl tehdy Google?
Myslím Samy [Bengio, ředitel společnosti Google AI] a Jeff [Dean, viceprezident společnosti Google Research] byli na workshopu Black in AI [na NeurIPS v roce 2017]. Ptali se mě, co jsem udělal, a řekli: Ach jo, měl bys přijít pracovat do Googlu. neměl jsem to v plánu. V té době jsem dělal postdoc na Microsoft Research [MSR]. Nepřišel jsem na to, co budu dělat dál. Ale věděl jsem, že se chci vrátit do Bay Area, a oni zakládali kancelář v Akkře v Ghaně. Myslel jsem, že by bylo dobré, abych s tím pomohl.
Měl jsem spoustu výhrad. Byl jsem v New Yorku na MSR a bylo tam hodně hlasitých žen – Danah Boyd, Hannah Wallach, Jen [Wortman Vaughan], Kate Crawford, Mary Gray. Ve skutečnosti nebyly barevné ženy. Jediné černošky, které znám z celého výzkumu společnosti Microsoft, jsou Danielle Bellgrave ve Spojeném království a Shawndra Hill v New Yorku. Ale přesto i muži byli velkou oporou. Velmi jsem váhala, zda jít do prostředí, kde jsem věděla, že Google Research není příliš známá svou obhajobou žen. Bylo několik problémů, které jsem slyšel prostřednictvím svých šepotových sítí. Ve skutečnosti, když jsem řekl, že půjdu na Google Research, řada lidí mi skutečně sedla. Takže už jsem se toho děsil, jako Oh, člověče, dobře, do čeho jdu?
Rozhodně jsem byla první černoškou, která se stala výzkumnou vědkyní v Googlu. Po mně máme další dvě černošky. To je asi z tolika výzkumných vědců. Stovky a stovky. Tři z bůh ví kolik.
Nezklamali. Byl to jen neustálý boj. Snažil jsem se k tomu přistupovat tak, že mluvím s lidmi, snažím se je vzdělávat, přimět je, aby viděli určitý úhel pohledu. Pořád jsem si myslel, že by to mohli udělat lépe, víš? Se Samym se stal takovým velkým obhájcem. Lidé si stěžovali, že tato organizace [Google Research] najala pouze 14 % žen. Samy, můj manažer, najal 39 % žen. Nebylo to tak, že by k tomu měl nějakou motivaci. On byl jediný důvod, proč mám pocit, že se mi to předtím nestalo. Asi proto, že nás chránil. A tím, že by nás chránil, by se sám dostal do problémů. Pokud na vás ostatní vůdci hlídají tóny a vy jste příliš hluční, jste jako výtržník – všichni víme, že se to stává lidem jako já – pak když vás někdo bude bránit, očividně bude také problém. pro ostatní vůdce.
To byly mé dva roky v Googlu. Vlastně jsem si myslel, že možná děláme pokroky až do posledního incidentu, protože náš tým rostl. Téměř se to rozpadlo – dva měsíce po mém působení v Googlu se moje spoluvedoucí Meg Mitchell chystala skončit. Ale pak jsme rozšířili náš tým a teď je nás asi 12 lidí. Tak jsem si myslel, že jdeme kupředu.
Tolik se mluvilo o diverzitě a inkluzi, ale tolik pokrytectví. Jsem jednou z 1,6 % černošek v Googlu. Ve výzkumu [Google] to není 1,6 % – je to mnohem nižší. Rozhodně jsem byla první černoškou, která se stala výzkumnou vědkyní v Googlu. Po mně máme další dvě černošky. To je asi z tolika výzkumných vědců. Stovky a stovky. Tři z bůh ví kolik.
Takže v určitém okamžiku jsem byl jako, víš co? O rozmanitosti ani nechci mluvit. Je to prostě vyčerpávající. Chtějí s vámi mít schůzky, neposlouchají vás a pak s vámi chtějí mít schůzky znovu. Napsal jsem milion dokumentů o milionech věcí souvisejících s rozmanitostí – o rasové gramotnosti a strojovém učení [ML], iniciativách pro spravedlnost v oblasti ML, o udržení žen a problémech. Tolik dokumentů a tolik e-mailů.
Takže to byla jedna věc za druhou. Nebyla jediná dovolená na Googlu, kde bych nebyl uprostřed nějakého problému. Prostě nikdy nebyl klid. Představte si, že na vás někdo střílí z pistole a vy křičíte. A místo toho, aby se snažili zastavit osobu, která na vás střílí ze zbraně, snaží se vám zabránit, abyste křičeli. Tak to bylo. Bylo to tak bolestivé být v té pozici znovu a znovu a znovu.
Úspěšně jste vybudovali jeden z nejrozmanitějších týmů v oboru AI. Co bylo k tomu vlastně potřeba?
Museli jsme bojovat se všemi možnými věcmi. Musel jsem být manažer, a pak lidé nechtěli, abych byl manažerem. Říkal jsem si: Dobře, založil jsem velmi známou neziskovou organizaci. Proč se „obáváte“ ze mě jako manažera? Samy mi to neřekl, ale musel doručit tuto zprávu: Ví, že může dostat padáka za věci? Ví, že pokud se stane manažerkou, bude muset být zástupcem společnosti Google? Pak lidé vyjádřili obavy, že v Googlu vypadám nešťastně. Není to jako, Oh, existuje toxická kultura, kvůli které jsou lidé jako ona nešťastní. Pojďme tedy napravit tuto kulturu. Ne, to nebyl rozhovor. Rozhovor zněl Zdá se, že je nešťastná, tak z ní nedělejme manažerku.
V té době jsem byl naštvaný. Byl jsem tak naštvaný. Ptal jsem se každého dalšího člověka, který se stal manažerem na mé úrovni, jaké má zkušenosti. Říkám si: Tato osoba se stala manažerem a nikdo se jí nikdy nezeptal, zda věděl, že bude vyhozen za X, Y a Z. Tato druhá osoba se stala manažerem. Nikdo s nimi nemusel mluvit. Neproběhla žádná diskuse. Pro mě to tak nebylo.
Představte si, že na vás někdo střílí z pistole a vy křičíte. A místo toho, aby se snažili zastavit osobu, která na vás střílí ze zbraně, snaží se vám zabránit, abyste křičeli.
Další věc: chtěli jsme najmout sociální vědce. Výzkumníci často najímají své přátele, a to jsme nechtěli dělat. Zavolali jsme. Máme 300 žádostí. Procházeli jsme je ručně, protože jsme se chtěli ujistit, že náboráři nefiltrují určité skupiny lidí. Rychle jsme si zavolali s 20-něco, měli jsme na místě pohovor s 10 lidmi a pak jsme najali dva z nich.
Proč jsem si myslel, že děláme pokrok, bylo to, že jsme byli schopni získat zdroje na najmutí těchto lidí. Tak jsem si myslel, že Jeff možná začíná podporovat náš tým a podporovat ty druhy věcí, které jsme dělali. Nikdy jsem si nepředstavoval – vůbec přesně nevím, jak se to stalo – ale prostě jsem si nepředstavoval, že by to podepsal [moje vyhazov]. Nedokážu si představit, že by to inicioval, ale i to, že to podepsal, pro mě bylo něco tak překvapivého.
Podařilo se vám během doby, kdy jste tým budovali, vybudovat vztahy s ostatními týmy v Googlu? Byly některé části organizace vnímavější k otázkám etiky AI?
Většina lidí v našem týmu je zavalena požadavky jiných týmů nebo jiných lidí. A jednou z našich výzev bylo nebýt stále uprostřed ohně, protože jsme chtěli mít předvídavost. Chtěli jsme utvářet to, co se stane v budoucnu, a ne jen reagovat.
Největší nesoulad vidím v tom, že je tu tolik lidí, kteří nás respektují, ale pak jsou nahoře lidé, jako jsou viceprezidenti, kteří nás možná nemohou vystát nebo prostě vůbec nerespektují naši autoritu nebo odbornost. Viděl jsem to několikrát. Ale lidé z Google Cloud, nebo konkrétně Cloud AI, někteří z vyššího vedení – velmi je podporovali. Cítil jsem, že opravdu respektují naše vedení, takže se nás budou snažit zatáhnout do mnoha věcí. Na druhou stranu toto poslední fiasko nebylo od nich. Mám podezření, od kterých VP to pocházelo, a rozhodně nerespektovali naši odbornost nebo vedení.
Mohl bys o tom mluvit trochu víc?
No, i když jen vidíš e-mail od Jeffa —Předpokládám, že tento e-mail nenapsal; Předpokládám, že to někdo napsal a on to poslal – mluví o tom, že náš výzkum [papír o velkých jazykových modelech] měl mezery, chyběla v něm nějaká literatura. [E-mail nevypadá], jako by mluvili s lidmi, kteří jsou odborníky ve své oblasti. Toto není peer review. Toto není recenzent č. 2, který vám říká: Ahoj, chybí tu citace. Toto je skupina lidí, které neznáme, kteří jsou vysoko, protože jsou v Googlu dlouhou dobu, kteří z nějakého neznámého důvodu a procesu, který jsem nikdy neviděl, dostali moc zastavit tento výzkum.
Měli jsme 128 citací [na tom papíru] a poslali jsme náš článek mnoha z těchto lidí, které jsme citovali. Byli jsme tak důkladní. Řekl jsem, dobře, chci lidi, od kterých se budeme ptát na zpětnou vazbu, rozdělit do čtyř věder. Jedním jsou lidé, kteří sami vyvinuli velké jazykové modely, jen aby získali jejich perspektivu. Jedním jsou lidé, kteří pracují v oblasti pochopení a zmírnění zkreslení v těchto modelech. Jedním z nich jsou lidé, kteří mohou nesouhlasit s naším názorem. Jedním jsou lidé, kteří tyto velké jazykové modely používají pro různé věci. A máme celý dokument se všemi těmito zpětnými vazbami, kterým jsme měli projít, a které chci udělat ještě předtím, než tuto práci uvolníme.
Ale způsob, jakým s námi mluvili [vedení společnosti Google], nebylo, jako by mluvili se světově uznávanými odborníky a lingvisty. Stejně jako Emily Benderová [profesorka na Washingtonské univerzitě a spoluautorka článku] není nějaká náhodná osoba, která jen dala své jméno na náhodný papír. Připadalo mi to celé tak neuctivé.
Byly před tímto konkrétním dokumentem dřívější případy, kdy jste měli pocit, že Google omezuje nebo omezuje schopnost vašeho týmu provádět výzkum?
Měl jsem pocit, jako by existovaly předchozí případy, kdy výsledky výzkumu hodně oslabily. Lidé vedli rozhovory s PR a politikou nebo čímkoli čímkoli, a měli problém s určitými formulacemi nebo s určitými specifiky. To je to, co jsem si myslel, že by se také mohli pokusit udělat s tímto papírem. Tak jsem napsal dokument a pořád jsem se jich ptal: Jaká je vaše zpětná vazba? Máte zpětnou vazbu k přidání sekce? Odebrat? Co to znamená? na co se nás ptáš?
Toto byl doslova můj e-mail v pátek po Dni díkůvzdání [ 27. listopadu, pět dní před Gebruovým propuštěním ] protože na Den díkůvzdání jsem strávil den psaním tohoto dokumentu místo toho, abych se dobře bavil se svou rodinou. Druhý den, v pátek, což je doba, kdy jsem měl tento dokument stáhnout, jsem napsal: Dobře, napsal jsem tento šestistránkový dokument, který se zabývá na vysoké i nízké úrovni jakékoli zpětné vazby, kterou mohu získat. A doufám, že je tu alespoň otevřenost pro další rozhovor spíše než jen další rozkazy. Napsal jsem ten email. Takhle. Jak Megan [Kacholia, viceprezidentka inženýrství společnosti Google Research] odpoví na tento e-mail? V pondělí na to odpoví a řekne: Můžete prosím potvrdit, že jste buď stáhli příspěvek, nebo z něj odstranili jména autorů. Děkuju. A můžete to prosím potvrdit, až to uděláte. Pošlete mi e-mail a potvrďte. Jako bych žádnou agenturu neměl.
To není to, co dělají lidem, kteří se dopustili hrubého pochybení. Předají jim 80 milionů dolarů a dají jim pěkný malý východ. Nedělají to, co udělali mně.
Pak jsem v tom dokumentu napsal, že to bylo extrémně neuctivé k týmu Etické umělé inteligence a že je třeba si promluvit nejen s Jeffem a naším týmem a Megan a naším týmem, ale s celým Výzkumem o respektu k výzkumníkům. a jak vést takové diskuse. Ani náhodou. Žádný vztah s tím.
Brečel jsem, mimochodem. Když jsem měl první schůzku, což bylo ve čtvrtek před Dnem díkůvzdání, den předtím, než jsem se chystal odjet na dovolenou – když nám Megan řekla, že musíte stáhnout tento papír, začal jsem brečet. Byl jsem tak naštvaný, protože jsem řekl, že jsem unavený z neustálého boje. Myslel jsem, že když budu ignorovat všechno to pokrytectví DEI [rozmanitost, rovnost a inkluze] a další věci a budu se soustředit jen na svou práci, pak alespoň svou práci dokončím. A teď si přicházíš pro mou práci. Začal jsem tedy doslova brečet.
Co si myslíte, že právě tento dokument vyvolal tyto události? Myslíte si, že šlo vlastně o tento papír, nebo byly ve hře jiné faktory?
Nevím. Samy byl z celé věci zděšen. Řekl, že takhle se k výzkumníkům nechováme. Takhle se k lidem obecně nechováte. Lidé mluví o tom, jak, když se to stane někomu, kdo dosáhl tohoto úspěchu – nutí mě to představit si, co dělají lidem, zvláště lidem ve zranitelných skupinách.
Pravděpodobně si mysleli, že o tom budu velmi potichu. Nevím. Nemyslím si, že konečný výsledek byl jen o tomto papíru. Možná byli překvapeni, že jsem se jakýmkoliv způsobem odtlačil. Pořád se snažím přijít na to, co se stalo.
Tušili jste někdy na základě předchozích událostí a napětí, že to takto skončí? A čekali jste odezvu komunity?
Myslel jsem, že by mě mohli ztrápit natolik, abych odešel, nebo něco takového. Myslel jsem, že by byli chytřejší, než kdyby to dělali přesně tímto způsobem, protože je to souběh tolika problémů, kterými se zabývají: výzkumná cenzura, etická umělá inteligence, pracovní práva, DEI – všechny věci, pod které se dostali. oheň pro dříve. Takže jsem neočekával, že to bude tímto způsobem – třeba úplně odříznout můj firemní účet. To je tak bezohledné. To není to, co dělají lidem, kteří se dopustili hrubého pochybení. Ony předat jim 80 milionů dolarů a dávají jim pěkný malý východ, nebo je možná pasivně-agresivně nepropagují, nebo cokoli jiného. Nedělají lidem, kteří ve skutečnosti vytvářejí nepřátelské pracovní prostředí, totéž, co mně.
Zjistil jsem to z mých přímých podřízených, víš? Což je tak smutné. Byli prostě tak traumatizovaní. Myslím, že můj tým zůstal vzhůru do 4 nebo 5 hodin pohromadě a snažil se pochopit, co se stalo. A obcházet Samyho – bylo to všechno tak hrozné a nelítostné.
Myslel jsem, že když se jen... soustředím na svou práci, tak alespoň svou práci zvládnu. A teď si přicházíš pro mou práci. Začal jsem tedy doslova brečet.
Očekával jsem nějakou podporu, ale rozhodně jsem nečekal takový výlev, jaký tam je. Bylo to neuvěřitelné vidět. Nikdy, nikdy jsem nic takového nezažil. Chci říct, náhodní příbuzní mi posílají SMS, viděl jsem to ve zprávách. To rozhodně není něco, co jsem očekával. Ale lidé právě teď tolik riskují. A to mě znepokojuje, protože se opravdu chci ujistit, že jsou v bezpečí.
Zmínil jste, že to není jen o vás; nejde jen o Google. Je to souběh mnoha různých problémů. Co tato konkrétní zkušenost říká o vlivu technologických společností na AI obecně a o jejich schopnosti skutečně dělat smysluplnou práci v etice AI?
Víte, bylo tam několik lidí srovnání Big Tech a Big Tobacco a jak cenzurovali výzkum, i když o problematice nějakou dobu věděli. Odmítám dichotomii akademická sféra versus technologie, protože oba mají stejný druh velmi rasistického a sexistického paradigmatu. Paradigma, které se naučíte a přenesete do Googlu nebo kdekoli jinde na akademické půdě. A lidé se pohybují. Jdou do průmyslu a pak se vrátí na akademickou půdu, nebo naopak. Všichni jsou přátelé; všichni jedou na stejné konference.
Nemyslím si, že z toho plyne poučení, že by v technologických společnostech neměl existovat žádný výzkum etiky umělé inteligence, ale myslím si, že ponaučení je, že a) potřebuje mnohem více nezávislých výzkumů. Potřebujeme mít více možností než jen DARPA [Agentura pro obranné pokročilé výzkumné projekty] versus korporace. A b) samozřejmě je potřeba dohled nad technologickými společnostmi. V tuto chvíli prostě nechápu, jak si můžeme nadále myslet, že se budou samoregulovat na DEI nebo etice nebo co to je. Nedělali správnou věc a nebudou dělat správnou věc.
Myslím, že akademické instituce a konference musí přehodnotit své vztahy s velkými korporacemi a množství peněz, které od nich berou. Někteří lidé se například ptali, zda by některé z těchto konferencí neměly mít kodex chování bez cenzury nebo něco podobného. Takže si myslím, že je toho hodně, co tyto konference a akademické instituce mohou udělat. Právě teď je příliš velká nerovnováha sil.
Jakou roli podle vás mohou hrát výzkumníci etiky, pokud jsou ve společnostech? Konkrétně, pokud váš bývalý tým zůstane ve společnosti Google, jakou pro něj vidíte cestu, pokud jde o jejich schopnost produkovat působivou a smysluplnou práci?
Myslím, že pro takové lidi nebo takové výzkumníky musí existovat nějaká ochrana. Právě teď je zjevně velmi obtížné si představit, jak někdo může v těchto korporacích provádět skutečný výzkum. Ale pokud jste měli ochranu práce, pokud máte ochranu oznamovatelů, pokud máte nějaký větší dohled, mohlo by být pro lidi snazší být chráněni, když dělají tento druh práce. Je velmi nebezpečné, když máte takové výzkumníky, kteří dělají to, čemu můj spoluvedoucí říkal fíkový list – zakrývání – práci. Jako, nic neměníme, jen dáváme fíkový list na umění. Pokud se nacházíte v prostředí, kde lidé, kteří mají moc, nejsou investováni do skutečné změny čehokoli, protože nemají vůbec žádnou motivaci, očividně to, že tam budou začleněni tito výzkumníci, vůbec nepomůže. Ale myslím si, že pokud dokážeme vytvořit mechanismy odpovědnosti a dohledu, ochranné mechanismy, doufám, že dokážeme umožnit takovým výzkumníkům, aby v korporacích i nadále existovali. Ale aby se tak stalo, je potřeba mnohé změnit.
Kromě toho, že konference nebo regulace mění motivační struktury, existují další mechanismy nebo věci, které byste mohli vidět jako součást tohoto rámce externího dohledu? Vidíte nějakou roli, kterou by veřejnost mohla hrát v tom, že by technologické společnosti byly odpovědné?
Musím o tom víc přemýšlet. Myslím si, že veřejnost musí být více vzdělávána v roli, kterou technologické společnosti a také AI hrají v našem každodenním životě. Spousta lidí na tom odváděla opravdu dobrou práci. Lidé psali knihy – Zbraně matematického ničení byla to pro mě velmi dobrá kniha. tam je Kódované zkreslení , dokument. Jsem také rád, že začínám vidět univerzity, které nabízejí některé z těchto kurzů informatiky. Myslím, že by měly být vyžadovány. Nicki Washingtonová má třídu na Dukovi které bych si přál vzít. Ruha [Benjamin] má třídu [na Princetonu] . Myslím, že naše chápání toho, jak se rozvíjí věda a jak se vyvíjí inženýrství – to se prostě musí změnit. Veřejnost musí pochopit politickou povahu této práce. Vysokoškolské systémy jsou podle mého názoru tímto způsobem velmi pozadu. Musí udělat hodně práce.
Co se týče veřejnosti, myslím si, že kdybych se měl vrátit do doby před třemi, čtyřmi lety, tak tam bylo mnohem menší povědomí. Nyní jsou silně zapojeny subjekty jako ACLU [American Civil Liberties Union]; ty máš Algorithmic Justice League , Data pro Black Lives , který tady dělá spoustu práce. Takže si myslím, že veřejnost se může dozvědět více. Ale myslím, že to je spíše na politicích, protože máme mechanismus, jak zapojit veřejnost do různých věcí. Ale politici nedávají veřejnosti možnost se zapojit. Například [společnost pro analýzu dat] Palantir byl používán v New Orleans pro prediktivní policii a nikdo nevěděl. Nehlasovalo se. Nebyl tam žádný účet. Nebyla o tom žádná diskuse. Naše vláda tedy musí aktivně dát veřejnosti příležitost zvážit tyto druhy problémů.
Co to vlastně znamená dělat smysluplnou etiku AI?
Myslím, že to možná znamená, že můžete zpochybnit základní premisy a základní problémy AI. Nemusíte věci jen zakrývat, nebo nemusíte být jen reakční. Dokážete předvídat budoucnost a můžete se do toho pustit brzy, zatímco se o produktech přemýšlí a vyvíjejí se, a ne jen dělat věci po faktu. To je věc číslo jedna, o které přemýšlím. A že lidé nejvíce ovlivnění technologií by měli mít velmi velké slovo, počínaje úplným začátkem.
Již dříve jste zmínil, že etika v technologických společnostech často přichází shora dolů, od lidí, kteří nejsou nutně těmi, kterých se technologie dotýká. Jaká je ideální rovnováha mezi tím, když konverzaci řídí marginalizované hlasy, a zároveň se zapojuje nejvyšší vedení?
Pokud lidé na okraji nemají moc, pak neexistuje žádná pobídka pro nikoho, aby jim naslouchal nebo aby je utvářel diskuse. Takže si myslím, že lidé nahoře potřebují podporovat prostředí, kde lidé na okraji jsou těmi, kdo utvářejí diskuse o těchto věcech, o etice umělé inteligence, o diverzitě a začlenění.
Učíme se, když se objektivně učíme vědu, čemu se říká pohled odnikud, jako byste do toho neměli vnášet svůj úhel pohledu. Myslím, že lidé by měli dělat pravý opak.
To se právě teď neděje. Zajdete na Google a uvidíte, že všichni lidé na vysoké úrovni provádějí etiku umělé inteligence – vůbec to nejsou lidé z nedostatečně zastoupených skupin. To byl rozhovor, který jsme vedli, když jsem tam byl, a mnoho z nás z toho bylo velmi frustrováno. Měli jsme tyto zásady nazvané Nic o nás bez nás a úplně první věc, na kterou jsme přišli, byla psychologická bezpečnost. Umíš si představit? To znamená, netrestejte mě za to, že jsem se ozval, což je přesně to, co udělali. Takže musíte hledat vstup, ale znovu, nedělejte to dravým způsobem. Než se vůbec zamyslíte nad produkty, které vytváříte, nebo nad výzkumem, který děláte, musíte si začít představovat: jak můžete pracovat s lidmi na okraji na formování této technologie?
Vnímáte se svým způsobem jako mučedník?
Nesnažil jsem se jím být a nemyslím si, že teď nejsem mučedník. Doufám, že jsem spíše agentem změny. Ale ano, Google mě tak trochu udělal, víc, než bych byl, kdyby mi to neudělali.
co tě čeká dál?
Oh, člověče. Neměl jsem čas o tom přemýšlet. Právě teď se doslova snažím ujistit, že je můj tým v bezpečí, ujistit se, že vyprávění o tom, co se se mnou děje, je přesné, a když můžu, trochu si oddechnu. Doufejme, že vypijte trochu vína, dejte si jídlo, snězte čokoládu, jděte ven s rodinou. A možná na to potom přijdu. Ale mou největší prioritou je nebýt v prostředí, ve kterém jsem byl. To je moje největší priorita.
Jakou radu máte pro ostatní lidi, kteří chtějí navázat na práci, kterou jste udělali?
Moje rada je přečíst si některá díla, která jsem zmínil, zejména od Šaty [Benjamin] , Meredith [Broussard] , Safiya [Noble] , Simone Browneová , a řada dalších lidí. A vneste do toho své prožité zkušenosti. Nesnažte se vymanit z této práce. Má to s vámi hodně společného. Takže váš úhel a vaše síla budou záviset na vaší životní zkušenosti. Dal jsem řeč tzv Hierarchie znalostí a strojové učení , a bylo to tak nějak o tom: Jak nás učí, když se objektivně učíme vědu, čemu se říká pohled odnikud, jako byste do toho neměli vnášet svůj úhel pohledu. Myslím, že lidé by měli dělat pravý opak.
Aktualizace: Vyjasnili jsme pracovní pozici Samyho Bengia a opravili odkaz na výzkumníka. Timnit měl na mysli Jen Wortman Vaughanovou, hlavní výzkumnou pracovnici MSR, nikoli Jen Chayesovou, bývalou ředitelku stejné společnosti.