Přední výzkumník etiky umělé inteligence říká, že ji vyhodili z Googlu

Timnit Gebru

Kimberly White / Stringer





2. prosince byla výzkumná komunita umělé inteligence šokována zjištěním, že Timnit Gebru byla vyhozena ze svého příspěvku v Googlu. Gebru, jeden z předních hlasů v odpovědném výzkumu umělé inteligence, je známý mimo jiné tím, že je spoluautorem průkopnických prací, které odhalily diskriminační povaha rozpoznávání obličeje , spoluzakládající afinitní skupinu Black in AI a neúnavně obhajuje rozmanitost v technologickém průmyslu .

Ve středu večer ale oznámila na Twitteru že byla odvolána z pozice etického spoluvedoucího AI společnosti Google. Manažer mého manažera zjevně poslal e-mail [na] mým přímým podřízeným, že přijal mou rezignaci. Neodstoupila jsem, řekla.

v rozhovor pro Bloomberg ve čtvrtek Gebru uvedla, že k propuštění došlo po vleklém boji s jejími nadřízenými kvůli zveřejnění studie o etice AI. Jeden z tweetů Gebru a později interní e-mail od Jeffa Deana, šéfa Google AI, naznačují, že tento dokument byl kritický náklady na životní prostředí a vložené předsudky velkých jazykových modelů.



Gebru, který článek napsal se čtyřmi kolegy z Google a dvěma externími spolupracovníky, jej předložil na výzkumnou konferenci, která se bude konat příští rok. Po interní kontrole byla požádána, aby papír stáhla nebo odstranila jména zaměstnanců společnosti Google. Odpověděla, že tak učiní, pokud její nadřízení splní řadu podmínek. Kdyby nemohli, udělala by to ona pracovat na poslední rande , ona řekla.

Poslala také a frustrovaný e-mail na interní listserv, Google Brain Women and Allies, popisující opakované útrapy, které zažila jako černošská výzkumnice. Právě jsme provedli černošský výzkum s takovou emocionální ukázkou podráždění, napsala. Víte, co se od té doby stalo? Utišení tím nejzásadnějším možným způsobem.

Gebru pak odjela na dovolenou a před svým návratem obdržela e-mail s ukončením od Megan Kacholia, viceprezidentky pro inženýrství ve společnosti Google Research. Děkujeme za objasnění vašich podmínek, uvedený email , jak tweetoval Gebru. Nemůžeme souhlasit s #1 a #2, jak požadujete. Respektujeme vaše rozhodnutí opustit společnost Google v důsledku toho a přijímáme vaši rezignaci. Její e-mail na listserv nebyl v souladu s očekáváním manažera společnosti Google, pokračovalo. V důsledku toho přijímáme vaši rezignaci okamžitě s účinností dnes.

Ve čtvrtek ráno, po výlevu podpory pro Gebru na sociálních sítích, poslal Dean zprávu interní e-mail skupině Google pro umělou inteligenci s popisem situace. Řekl, že práce Gebru nesplňuje naše požadavky na zveřejnění, protože ignoruje příliš mnoho relevantních výzkumů. Řekl také, že Gebruovy podmínky zahrnovaly odhalení identity všech osob, se kterými jsme s Megan mluvili a konzultovali je v rámci revize papíru a přesné zpětné vazby.



Vzhledem k roli Timnita jako respektovaného výzkumníka a manažera v našem týmu Etické umělé inteligence mám špatný pocit, že se Timnit dostala tam, kde má takový pocit z práce, kterou děláme, napsal. Vím, že všichni skutečně sdílíme Timnitovu vášeň dělat AI spravedlivější a inkluzivnější.

Gebru, Dean ani komunikace společnosti Google nereagovaly na žádosti o komentář a mnoho podrobností týkajících se přesného průběhu událostí nebo příčiny ukončení zůstává nejasných. Jak se stále objevují, mnozí na ně znovu upozornili tweet z 30. listopadu kterou Gebru připnula na horní část svého profilu. Pracuje někdo na regulaci chránící výzkumníky Etické umělé inteligence, podobně jako ochrana oznamovatelů? čte se to. Protože s množstvím cenzury a zastrašování, které se děje vůči lidem v konkrétních skupinách, jak může někdo věřit skutečnému výzkumu v této oblasti?

skrýt