211service.com
Riskovala vše, aby odhalila Facebook. Nyní vypráví svůj příběh.
Sophie Zhang, bývalá datová vědkyně na Facebooku, odhalila, že umožňuje globální politickou manipulaci a udělala jen málo pro její zastavení.
Christie There Klok
29. července 2021Svět se poprvé dozvěděl o Sophie Zhang v září 2020, kdy Novinky BuzzFeed získala a zveřejnila nejdůležitější informace ze zkrácené verze svého téměř 8 000 slovního výstupního sdělení z Facebooku.
Než byla propuštěna, byla Zhang oficiálně zaměstnána jako nízkoúrovňový datový vědec ve společnosti. Ale pohltil ji úkol, který považovala za důležitější: najít a odstranit falešné účty a lajky, které byly používány k tomu, aby ovlivnily volby po celém světě.
Její zpráva odhalila, že identifikovala desítky zemí, včetně Indie, Mexika, Afghánistánu a Jižní Koreje, kde tento typ zneužívání umožňoval politikům klamat veřejnost a získat moc. Odhalilo také, jak málo společnost udělala pro zmírnění problému, navzdory Zhangově opakované snaze upozornit na něj vedení.
POSLECHNĚTE PŘÍBĚH ZDE
Vím, že už mám na rukou krev, napsala.
V předvečer svého odjezdu Zhang stále váhala, zda vůbec má napsat. Byla to možná její poslední šance vytvořit dostatečný vnitřní tlak na vedení, aby začala brát problémy vážně. V očekávání, že to napíše, odmítla téměř 64 000 dolarů odstupného, které by zahrnovalo podepsání dohody o nehanobení. Chtěla si zachovat svobodu kriticky mluvit o společnosti.
Ale bylo to jen dva měsíce před americkými volbami v roce 2020 a byla znepokojena myšlenkou, že by memorandum mohlo narušit důvěru veřejnosti ve volební proces, pokud by bylo předčasně zveřejněno tisku. Bála jsem se, že se nějak stanu Jamesem Comeym roku 2020, říká s odkazem na bývalého ředitele FBI, který několik dní před volbami v roce 2016 řekl Kongresu, že agentura znovu zahájila vyšetřování používání soukromého e-mailového serveru Hillary Clintonovou. Clintonová ze své ztráty obvinila Comeyho.
K Zhangově velké úlevě se tak nestalo. A po volbách pokračovala ve svém původním plánu. V dubnu se přihlásila ve dvou Strážce články s její tváří, jménem a ještě podrobnější dokumentací politické manipulace, kterou odhalila, a nedbalosti Facebooku při jejím řešení.
Její účet poskytl konkrétní důkazy na podporu toho, co kritici zvenčí dlouho říkali: že Facebook usnadňuje zasahování do voleb a že pokud taková aktivita nepoškodí obchodní zájmy společnosti, nemůže se obtěžovat problém vyřešit.
Mluvčí Facebooku Joe Osborne ve svém prohlášení tato tvrzení důrazně popřel. U bezpočtu rozhovorů pro tisk, které udělala od svého odchodu z Facebooku, jsme zásadně nesouhlasili s tím, jak paní Zhang charakterizovala naše priority a snahy vykořenit zneužívání na naší platformě, řekl. Agresivně jdeme po zneužívání po celém světě a máme specializované týmy zaměřené na tuto práci. Výsledkem je, že jsme již odstranili více než 150 sítí koordinovaného neautentického chování... Boj proti koordinovanému neautentickému chování je naší prioritou.
Tím, že Zhang vystoupila na veřejnost a vyhnula se anonymitě, riskovala právní kroky ze strany společnosti, poškození jejích budoucích kariérních vyhlídek a možná i odvetu ze strany politiků, které v tomto procesu odhalila. To, co udělala, je velmi odvážné, říká Julia Carrie Wongová, reportérka Guardianu, která zveřejnila její odhalení.
Po téměř roce vyhýbání se osobním otázkám je nyní Zhang připravena vyprávět svůj příběh. Chce, aby svět pochopil, jak se mohla tak angažovat ve snaze chránit demokracii po celém světě a proč jí na tom tak hluboce záleželo. Už ji také nebaví být ve skříni jako transgender žena, což je základní aspekt její identity, který informoval o jejích akcích na Facebooku a poté, co odešla.
Její příběh odhaluje, že je to opravdu čisté štěstí, že nyní víme tolik o tom, jak Facebook umožňuje globální zasahování do voleb. Zhang nebyl jen jediný člověk, který bojoval s touto formou politické manipulace; ani to nebyla její práce. Objevila tento problém díky jedinečnému spojení dovedností a vášně a pak to vzala na sebe, vedena mimořádným smyslem pro morální odpovědnost.
Pro regulátory po celém světě, kteří zvažují, jak udržet společnost na uzdě, by to měl být budíček.
Zhang nikdy neplánoval být v této pozici. Je hluboce introvertní a nesnáší být v centru pozornosti. Na Facebook se připojila v roce 2018 poté, co ji vyčerpala finanční zátěž spojená s prací na částečný úvazek v Bay Area. Když dostala nabídku Facebooku, byla u svého náborového pracovníka přímočará: nemyslela si, že společnost dělá svět lepším, ale přidala se, aby to pomohla napravit.
Řekli mi: ‚Byl bys překvapen, kolik lidí na Facebooku to říká,‘ vzpomíná.
Snáze se to řeklo, než udělalo. Stejně jako mnoho nových zaměstnanců se připojila, aniž by byla přidělena do konkrétního týmu. Chtěla pracovat na volební integritě, která hledá způsoby, jak zmírnit zneužívání platforem souvisejících s volbami, ale její dovednosti neodpovídaly jejich otevření. Místo toho se spokojila s novým týmem, který řeší falešné zasnoubení.
Falešné zapojení se týká věcí, jako jsou lajky, sdílení a komentáře, které byly zakoupeny nebo jinak neautenticky vygenerovány na platformě. Nový tým se zaměřil úžeji na takzvanou scripted neautentickou aktivitu – falešné lajky a sdílení produkované automatizovanými roboty a používané ke zvýšení něčí popularity.
V naprosté většině takových případů lidé získávali lajky pouze z ješitnosti. Ale za půl roku Zhang zjistil, že politici mohou dělat totéž, aby zvýšili svůj vliv a dosah na platformě. Netrvalo dlouho a našla příklady v Brazílii a Indii, které se obě připravovaly na všeobecné volby.
V procesu hledání skriptované aktivity našla také něco mnohem znepokojivějšího. Administrátor facebookové stránky honduraského prezidenta Juan Orlando Hernández vytvořil stovky stránek s falešnými jmény a profilovými obrázky, aby vypadaly jako uživatelé – a používal je k zaplavování prezidentových příspěvků lajky, komentáři a sdílením. (Facebook uživatelům brání ve vytváření více profilů, ale neuplatňuje stejné omezení na stránky, které jsou obvykle určeny pro firmy a veřejné osobnosti.)
Aktivita se nepočítala jako napsaná, ale efekt byl stejný. Nejenže to mohlo náhodného pozorovatele uvést v omyl, aby se domníval, že Hernández je oblíbenější a populárnější než on, ale také to posílilo jeho příspěvky výše v informačních kanálech lidí. Pro politika, jehož vítězství ve volbách v roce 2017 bylo všeobecně považováno za podvodné, byla drzost – a důsledky – alarmující.
Všichni se shodli, že to bylo hrozné. Nikdo se nemohl dohodnout, kdo by měl být zodpovědný, nebo dokonce co by se mělo dělat.
Ale když Zhang nadnesla problém, říká, dostalo se jí vlažného přijetí. Tým pro integritu stránek, který se zabývá zneužíváním facebookových stránek a na nich, by neblokoval masovou výrobu stránek, aby vypadaly jako uživatelé. Tým pro integritu zpravodajských kanálů, který se snaží zlepšit kvalitu toho, co se objevuje v informačních kanálech uživatelů, neodstraní falešné lajky a komentáře ze zvažování algoritmu hodnocení. Všichni se shodli, že to bylo hrozné, říká Zhang. Nikdo se nemohl dohodnout, kdo by měl být zodpovědný, nebo dokonce co by se mělo dělat.
Poté, co Zhang vyvíjel nátlak po dobu jednoho roku, byla síť falešných stránek konečně odstraněna. O několik měsíců později Facebook vytvořil novou politiku neautentického chování, aby zakázal falešné stránky vydávající se za uživatele. Tato změna politiky však neřešila zásadnější problém: nikdo nebyl požádán, aby ji prosadil.
Zhang tedy převzala iniciativu sama. Když nepracovala na drhnutí marnivosti, pilně prohrabávala proudy dat a hledala použití falešných stránek, falešných účtů a dalších forem koordinovaných falešných aktivit na stránkách politiků. Našla případy v desítkách zemí, nejvýrazněji v Ázerbájdžánu, kde byla technika stránek používána k obtěžování opozice.
Najít a označit nové případy však nestačilo. Zhang zjistila, že aby mohla odstranit všechny sítě falešných stránek nebo účtů, musela vytrvale lobbovat u příslušných týmů. V zemích, kde taková činnost představuje pro společnost malé riziko PR, vymáhání lze opakovaně odkládat . (Facebook tuto charakteristiku zpochybňuje.) Zodpovědnost ji těžce tížila. Bylo důležitější prosadit případ v Bolívii s 11,6 miliony obyvatel nebo v indickém Rádžasthánu s téměř 70 miliony obyvatel?
Na podzim roku 2019 pak v Bolívii vypukly týdny smrtícího občanského protestu poté, co veřejnost zpochybnila výsledky prezidentských voleb. Jen před několika týdny Zhang skutečně depriorizoval zemi, aby se postarala o to, co vypadalo jako naléhavější případy. Ta zpráva ji pohltila pocitem viny. Intelektuálně věděla, že neexistuje způsob, jak vytvořit přímou souvislost mezi jejím rozhodnutím a událostmi. Falešné zasnoubení bylo tak malé, že účinek byl pravděpodobně zanedbatelný. Ale psychicky a emocionálně na tom nezáleželo. Tehdy jsem začal ztrácet spánek, říká.
Kdežto někdo jiný Zhang, která se mohla rozhodnout opustit tak náročnou práci, nebo se možná zprostit zodpovědnosti, se přiklonila, za cenu velkých osobních nákladů, ve snaze samostatně napravit chybu.
Během roku mezi událostmi v Bolívii a jejím vypálením se její zdraví prudce zhoršilo. Už trpěla úzkostmi a depresemi, ale ty se výrazně – a nebezpečně – zhoršovaly. Vždy nenasytná čtenářka zpráv ze světa se už nedokázala distancovat od politického zmatku v jiných zemích. Tlak ji odstrčil od přátel a blízkých. Stále více se izolovala a rozešla se s přítelkyní. Zvyšovala své léky na úzkost a antidepresiva, dokud se její dávka nezvýšila šestinásobně.
Související příběh
Jak se Facebook stal závislým na šíření dezinformací Algoritmy AI společnosti jí daly nenasytný návyk na lži a nenávistné projevy. Nyní muž, který je postavil, nemůže problém vyřešit.
Pro Zhang je vysvětlení, proč se tak starala, spojeno s její identitou. Vyrostla v Ann Arbor, Michigan, dcera rodičů, kteří se přistěhovali z pevninské Číny. Od raného věku měla vysoké akademické standardy a ukázala se jako předčasná učenka. V šesti nebo sedmi letech si přečetla úvodní knihu o fyzice a začala ji fascinovat stavební kameny vesmíru. Její vášeň ji přivedla ke studiu kosmologie na University of Michigan, kde publikovala dvě výzkumné práce, jednu jako samostatná autorka.
Byla přímo chytrá. Možná je to nejchytřejší studentka, se kterou jsem kdy pracoval, vzpomíná Dragan Huterer, její vysokoškolský poradce. Řekl bych, že byla pokročilejší než absolventka.
Její dětství bylo ale také poznamenáno těžkým traumatem. Již v pěti letech si začala uvědomovat, že je jiná. Četla dětskou knížku o chlapci, kterému přátelé řekli, že když ho políbí na loket, promění se v dívku. Strávil jsem dlouhou dobu poté, co jsem se snažil políbit můj loket, říká.
Snažila se to skrývat, chápala, že její rodiče by považovali její transgender identitu za nesnesitelnou. Živě si ale pamatuje okamžik, kdy se to její otec dozvěděl. Bylo jaro osmé třídy. Právě pršelo. A ona se krčila v koupelně a přemýšlela, jestli má vyskočit z okna, zatímco on mlátil dveře.
Nakonec se rozhodla neskákat a nechala ho, aby ji udeřil, dokud nebyla krvavá, říká: Nakonec jsem se rozhodla, že jsem to já, kdo zůstává v nedokonalých situacích, aby se je pokusil opravit. Druhý den měla na sobě košili s dlouhým rukávem, aby zakryla modřiny, a připravila si záminku pro případ, že by si toho všiml učitel. Nikdo to neudělal, říká.
(Když jsem byl kontaktován e-mailem, její otec obvinění popřel. Je mi smutno, že tvrdí, že jsem ji bil jako dítě poté, co jsem objevil její transgender identitu, která je zcela falešná, napsal. Ale mnoho lidí, kteří znali Zhang od střední školy až po současnost potvrdila její popis urážlivého chování jejího otce.)
Vzdát se jich a opustit je, by bylo zradou samotného jádra mé identity.
Na vysoké škole se rozhodla pro přechod, po kterém se jí otec zřekl. Brzy však zjistila, že být konečně správně vnímána jako žena má své vlastní důsledky. Přesně jsem věděl, jak se ke mně lidé chovali, když si mysleli, že jsem frajer. Bylo to velmi odlišné, říká.
Poté, co byla přijata do všech špičkových doktorských programů pro fyziku, rozhodla se pro studium na Princetonské univerzitě. Prohlídka strojírny ji při orientaci opakovaně vyzdvihovala před skupinou s mylnými domněnkami, že je méně kompetentní. Bylo to moje oficiální představení Princetonu a velmi vhodné, říká.
CHRISTIE JSOU HODINYOdtud se sexismus jen zhoršil. Téměř okamžitě ji začal pronásledovat a sexuálně obtěžovat student. Aby se s tím vyrovnala, vybrala si diplomového poradce na biofyzickém oddělení, což jí umožnilo uniknout svému obtěžovateli prováděním výzkumu v jiné budově. Problém byl v tom, že se o biofyziku ve skutečnosti nezajímala. A ať už z tohoto či jiného důvodu, její zájem o fyziku se pomalu rozplýval.
Po třech letech, hluboce nešťastná, se rozhodla opustit program, i když ne, aniž by to obtěžování konečně nahlásila univerzitě. Říkali: ‚Je to tvoje slovo proti jeho.‘ Pravděpodobně už tušíte, proč jsem obsáhle zdokumentoval vše, co jsem dal Julii, říká s odkazem na Julii Carrie Wong v Guardianu. Nechtěl jsem být v jiné situaci „Řekl/řekla“.
(Mluvčí Princetonu řekl, že nemůže komentovat jednotlivé situace, ale uvedl závazek univerzity poskytovat inkluzivní a vstřícné vzdělávací a pracovní prostředí. Princeton se snaží podporovat každého člena komunity kampusu, který zažil sexuální nevhodné chování, včetně sexuálního obtěžování. řekl.)
Co mají tyto zkušenosti společné, je skutečnost, že jsem opakovaně zažila, jak jsem propadla trhlinami odpovědnosti, napsala Zhang ve své poznámce. Nikdy se mi nedostalo podpory od autorit, které jsem potřeboval... V každém případě splnili literu své povinnosti, ale selhali v duchu a já zaplatil cenu za jejich rozhodnutí.
Možná pak pochopíte, proč to bylo pro mě od samého začátku tak osobní, proč jsem tak tvrdě bojovala, aby lidé z Hondurasu a Ázerbájdžánu neproklouzli těmito trhlinami, napsala. Vzdát se jich a opustit je, by bylo zradou samotného jádra mé identity.
Bylo to během startu o jejím fyzickém a duševním úpadku na podzim roku 2019, kdy Zhang začala přemýšlet o tom, zda přijít. Chtěla dát oficiálním systémům Facebooku šanci, aby fungovaly. Ale bála se, že bude jediným bodem selhání. Co když mě druhý den srazí autobus? ona říká. Potřebovala, aby měl někdo jiný přístup ke stejným informacím.
Shodou okolností jí do schránky přišel email od novináře. Wong, tehdejší technický reportér v Guardianu, posílal zprávy zaměstnancům Facebooku, kteří chtěli získat nové zdroje. Zhang využil příležitosti a souhlasil, že se sejdou k mimo-nahrávané konverzaci. Toho dne preventivně odložila svůj firemní telefon a počítač u bývalého spolubydlícího, protože věděla, že Facebook má schopnost sledovat její polohu. Když se vrátila, vypadala, že se jí trochu ulevilo, vzpomíná bývalá spolubydlící Ness Io Kain: Bylo vidět, že měla pocit, že něco dokázala. Je to docela tiché, ale rozhodně je to hmatatelné.
Na okamžik se zdálo, že věci na Facebooku udělaly pokrok. Viděla změnu v politice a odstranění falešné sítě honduraského prezidenta jako hybnou sílu vpřed. Opakovaně byla vyzývána, aby pomohla zvládnout mimořádné události, a byla chválena za její práci, o které bylo řečeno, že je ceněná a důležitá.
Ale navzdory jejím opakovaným pokusům prosadit více zdrojů, vedení uvedlo jiné priority. Odmítli také Zhangovy návrhy na udržitelnější řešení, jako je suspendování nebo jiné potrestání politiků, kteří se opakovaně dopouštěli přestupků. Nechalo ji to čelit nikdy nekončící hasičské stříkačce: Manipulační sítě, které sundala, se rychle vrátily, často jen o hodiny nebo dny později. Stále více mi připadalo, jako bych se snažil vyprázdnit oceán cedníkem, říká.
Nikdy jsem svůj autismus nenáviděl víc, než když jsem se připojil na Facebook.
Pak, v lednu 2020, se karta obrátila. Jak její manažer, tak manažer manažera jí řekli, aby přestala se svou politickou prací a držela se své přidělené práce. Pokud by to neudělala, její služby ve společnosti by již nebyly potřeba, vzpomíná si na posledně jmenovaný výrok. Ale bez týmu určeného k pokračování v její práci Zhang stále něco dělala tajně.
Jak tlak narůstal a její zdraví se zhoršovalo, Zhang si uvědomila, že bude muset nakonec odejít. Vytvořila plán, že po amerických volbách odejde, považovala to za poslední a nejdůležitější událost, se kterou se musela vypořádat. Ale vedení mělo jiné plány. V srpnu jí bylo oznámeno, že bude propuštěna za špatný výkon.
Poslední den, několik hodin poté, co interně zveřejnila své poznámky, je Facebook smazal (ačkoli později po rozsáhlém hněvu zaměstnanců obnovili upravenou verzi). O několik hodin později jí zavolala personalistka a požádala ji, aby také odstranila heslem chráněnou kopii, kterou umístila na svůj osobní web. Snažila se smlouvat: udělala by to, kdyby obnovili interní verzi. Druhý den místo toho obdržela oznámení od svého hostitelského serveru, že po stížnosti Facebooku stáhl celý její web. Pár dní na to to vzalo i její doménu.
I po tom všem, co ji Facebook prohnal, se Zhang neobviňuje sama sebe. Ve své zprávě se omluvila kolegům za jakékoli potíže, které jim mohla způsobit, a za to, že je opustila, aniž by dosáhla více. v na Reddit AMA o měsíce později se omluvila občanům různých zemí za to, že nejednala dostatečně rychle a že se jim nepodařilo dosáhnout dlouhodobého řešení.
Pro mě Zhang, která je autistická, nahlas přemýšlí, čeho by mohla dosáhnout, kdyby nebyla. Nemám talent na přesvědčování a přesvědčování, říká. Kdybych se narodil se stříbrným jazykem, možná bych mohl udělat změny.
Nikdy jsem svůj autismus nenáviděl víc, než když jsem se připojil na Facebook.
V rámci přípravy na vstup na veřejnost Zhang učinila poslední oběť: skrýt svou trans identitu, ne ze strachu z obtěžování, ale ze strachu, že by to odvedlo pozornost od jejího poselství. V USA, kde jsou transgenderová práva vysoce zpolitizovaná, nechtěla, aby se ochrana demokracie stala stranickou záležitostí. V zahraničí, kde některé země považují transgender za zločin, který se trestá vězením nebo dokonce smrtí, nechtěla, aby lidé přestali poslouchat.
Bylo to v souladu s obětí, kterou opakovaně přinesla, když celosvětově kontrolovala volební zásahy. Zacházela se všemi politiky stejně, i když odstranění falešné aktivity jednoho v Ázerbájdžánu nevyhnutelně posílilo protivníka, který zastával homofobii . Udělala jsem, co bylo v mých silách, abych chránila demokracii a právní stát globálně pro lidi, bez ohledu na to, zda mi věřili, že jsem člověk, říká s hlubokým povzdechem. Ale nemyslím si, že by někdo měl dělat takovou volbu.
Související příběh
Recenze: Proč se Facebook nikdy nemůže opravit sám Reportérky Sheera Frenkel a Cecilia Kang v An Ugly Truth odhalují zásadní nedostatky Facebooku prostřednictvím podrobného popisu let mezi dvěma americkými volbami.
Tu noc, kdy byly zveřejněny články Guardianu, netrpělivě očekávala reakci veřejnosti a obávala se, zda bude schopna zvládnout pozornost médií. Myslím, že sama sebe překvapila, jak dobrá byla v rozhovorech, říká její přítelkyně Lisa Danz, se kterou se dal Zhang dohromady po odchodu z Facebooku. Zjistila, že když existuje materiál, který velmi dobře zná, a právě na něj dostává otázky, dokáže odpovědět.
Dopad nakonec nedosáhl toho, co si Zhang představoval. S vždy polovina outle ts ve Spojených státech učinily následné články, stejně jako zahraniční prodejny ze zemí zasažených manipulační činností. Ale pokud si je vědoma, nedosáhlo toho, v co doufala: dostatečně velkého PR skandálu, aby Facebook konečně upřednostnil práci, kterou za sebou zanechala.
Facebook tuto charakteristiku znovu zpochybňuje a tvrdí, že tým pro falešné zapojení pokračoval v Zhangově práci. Zhang ale poukazuje na další důkazy: síť falešných stránek v Ázerbájdžánu stále existuje. Je jasné, že nebyli úspěšní, říká.
Nicméně Zhang svého rozhodnutí vystoupit nelituje. Říká, že jsem byl v této odpovědné pozici od začátku jediný a někdo musel převzít odpovědnost a udělat maximum pro ochranu lidí.
Aniž by přeskakovala, pak chrastí důsledky, kterým ostatní čelili za to, že se postavili mocným v nepřátelštějších zemích: novináři byli zavražděni za vyšetřování vládní korupce, demonstranti byli zastřeleni za to, že zaregistrovali svůj nesouhlas.
Ve srovnání s nimi jsem malé brambory, říká.
Oprava: V předchozí verzi článku chybělo 'e' na Joeovi Osborne. Promiň, Joe.