Trollí farmy dosáhly před volbami v roce 2020 na Facebooku měsíčně 140 milionů Američanů, ukazuje interní zpráva

MIT Technology Review | Envato prvky

Aktualizace: Po zveřejnění tohoto příběhu Facebook odstranil dvě z pěti stránek trollí farmy, které jsme identifikovali.

V období před volbami v roce 2020, které byly nejvíce sporné v historii USA, byly nejoblíbenější stránky Facebooku s křesťanským a černoamerickým obsahem provozovány východoevropskými trollími farmami. Tyto stránky byly součástí větší sítě, která společně zasáhla téměř polovinu všech Američanů, podle interní zprávy společnosti, a dosáhly tohoto dosahu nikoli prostřednictvím uživatelské volby, ale především díky designu vlastní platformy Facebooku a algoritmu náročného na zapojení.

Související příběh

Jak se Facebook stal závislým na šíření dezinformací

Algoritmy AI společnosti jí daly nenasytný návyk na lži a nenávistné projevy. Nyní muž, který je postavil, nemůže problém vyřešit.

Zpráva napsaná v říjnu 2019 a získaná MIT Technology Review od bývalého zaměstnance Facebooku, který se nepodílel na jejím zkoumání, zjistila, že po volbách v roce 2016 Facebook nedokázal upřednostnit zásadní změny v tom, jak jeho platforma propaguje a distribuuje informace. Společnost místo toho uplatňovala strategii „whack-a-mol“, která zahrnovala monitorování a potlačování aktivity špatných aktérů, když se zapojili do politického diskurzu, a přidávání některých mantinelů, které zabránily nejhoršímu z nejhoršího.

Ale tento přístup jen málo k zastavení základního problému, poznamenala zpráva. Trollí farmy – profesionální skupiny, které koordinovaně pracují na zveřejňování provokativního obsahu, často propagandy, na sociálních sítích – si stále budovaly masivní publikum provozováním sítí facebookových stránek. Jejich obsah dosáhl měsíčně 140 milionů uživatelů v USA – 75 % z nich nikdy nesledovalo žádnou ze stránek. Viděli obsah, protože systém doporučování obsahu Facebooku ho vložil do jejich zpravodajských kanálů.

Namísto toho, aby se uživatelé rozhodli přijímat obsah od těchto aktérů, je to naše platforma, která se rozhodla poskytnout [těmto trollím farmám] obrovský dosah, napsal autor zprávy Jeff Allen, bývalý datový vědec na Facebooku.

Joe Osborne, mluvčí Facebooku, uvedl v prohlášení, že společnost již tato témata prošetřovala v době Allenovy zprávy a dodal: Od té doby jsme postavili týmy, vyvinuli nové zásady a spolupracovali s kolegy v oboru, abychom se zabývali. tyto sítě. Podnikli jsme agresivní donucovací opatření proti těmto druhům zahraničních a domácích neautentických skupin a výsledky čtvrtletně veřejně sdílíme.

V procesu ověřování faktů tohoto příběhu krátce před zveřejněním MIT Technology Review zjistil, že pět stránek trollí farmy zmíněných ve zprávě zůstalo aktivních.

Toto je největší stránka trollí farmy zaměřená na Afroameričany v říjnu 2019. Stále zůstává aktivní na Facebooku.

Zpráva zjistila, že trollí farmy se během voleb v roce 2016 zaměřovaly na křesťany, černochy a domorodé Američany ke stejným demografickým skupinám, které vybrala Kreml podporovaná internetová výzkumná agentura (IRA). A 2018 Vyšetřování zpráv BuzzFeed zjistili, že nejméně jeden člen ruské IRA, obviněný z údajného vměšování do amerických voleb v roce 2016, také navštívil Makedonii, když se objevily její první trollí farmy, ačkoli nenašel konkrétní důkaz o spojení. (Facebook uvedl, že jeho vyšetřování také neodhalilo spojení mezi IRA a makedonskými trollími farmami.)

To není normální. To není zdravé, napsal Allen. Umožnili jsme neautentickým hercům hromadit obrovské množství sledujících pro do značné míry neznámé účely... Skutečnost, že herci s možnými vazbami na IRA mají přístup k obrovskému počtu diváků ve stejných demografických skupinách, na které se IRA zaměřuje, představuje pro americké volby v roce 2020 obrovské riziko. .

Dokud trollí farmy našly úspěch v používání těchto taktik, mohl by to udělat i kterýkoli jiný špatný herec, pokračoval: Pokud Troll Farms osloví 30 milionů amerických uživatelů s obsahem zaměřeným na Afroameričany, neměli bychom být vůbec překvapeni, když objevíme IRA. také tam má v současnosti velké publikum.

Allen napsal zprávu jako čtvrtý a poslední díl rok a půl dlouhého úsilí o pochopení trollích farem. Ten stejný měsíc společnost opustil, částečně kvůli frustraci, že vedení fakticky ignorovalo jeho výzkum, podle bývalého zaměstnance Facebooku, který zprávu dodal. Allen to odmítl komentovat.

Zpráva odhaluje alarmující stav věcí, ve kterém vedení Facebooku na léta opustilo platformu, navzdory opakovaným veřejným slibům, že budou agresivně řešit zahraniční vměšování do voleb. MIT Technology Review zpřístupňuje celou zprávu se jmény zaměstnanců, protože je to ve veřejném zájmu.

Mezi jeho odhalení patří:

• V říjnu 2019 docházelo z Kosova a Makedonie asi 15 000 facebookových stránek s většinovým publikem v USA, které byly během voleb v roce 2016 známými špatnými aktéry.
• Dohromady tyto stránky trollí farmy – které zpráva pro účely srovnání považuje za jedinou stránku – dosáhly měsíčně 140 milionů uživatelů v USA a 360 milionů globálních uživatelů týdně. Stránka Walmartu dosáhla druhého největšího publika v USA se 100 miliony.
• Stránky trollí farmy se také spojily a vytvořily:
  • největší křesťansko-americká stránka na Facebooku, 20krát větší než další největší – s dosahem 75 milionů amerických uživatelů měsíčně, z nichž 95 % nikdy žádnou ze stránek nesledovalo.
  • největší afroamerická stránka na Facebooku, třikrát větší než další největší – s dosahem 30 milionů amerických uživatelů měsíčně, z nichž 85 % nikdy žádnou ze stránek nesledovalo.
  • druhá největší indiánská stránka na Facebooku, která měsíčně zasáhne 400 000 uživatelů, z nichž 90 % nikdy žádnou ze stránek nesledovalo.
  • pátou největší ženskou stránkou na Facebooku, která měsíčně zasáhne 60 milionů amerických uživatelů, z nichž 90 % nikdy žádnou ze stránek nesledovalo.
• Trollí farmy postihují především USA, ale zaměřují se také na Spojené království, Austrálii, Indii a země Střední a Jižní Ameriky.
• Facebook provedl několik studií, které potvrdily, že obsah, u kterého je větší pravděpodobnost zapojení uživatelů (lajkování, komentáře a sdílení), je pravděpodobnější typ, o kterém je známo, že je špatný. Přesto společnost nadále řadí obsah v informačních kanálech uživatelů podle toho, co získá nejvyšší zapojení.
• Facebook zakazuje na stránky zveřejňovat obsah pouze zkopírovaný a vložený z jiných částí platformy, ale neprosazuje zásady proti známým špatným aktérům. To usnadňuje zahraničním hercům, kteří nemluví místním jazykem, zveřejňovat zcela zkopírovaný obsah a přesto oslovit obrovské publikum. V jednu chvíli až 40 % zobrazení stránek na amerických stránkách připadlo na stránky s primárně neoriginálním obsahem nebo materiály s omezenou originalitou.
• Trollí farmy se dříve dostaly do partnerských programů Instant Articles a Ad Breaks na Facebooku, které jsou navrženy tak, aby pomohly zpravodajským organizacím a dalším vydavatelům zpeněžit jejich články a videa. V jednu chvíli, díky nedostatku základních kontrol kvality, až 60 % čtení Okamžitých článků směřovalo k obsahu, který byl plagiát odjinud. To usnadnilo trollím farmám nepozorovaně se přimíchat a dokonce přijímat platby z Facebooku.

Jak Facebook umožňuje trollí farmy a rozšiřuje jejich publikum

Zpráva se konkrétně zabývá trollími farmami v Kosovu a Makedonii, které provozují lidé, kteří nemusí nutně rozumět americké politice. Vzhledem k tomu, jak jsou systémy odměn za zpravodajství na Facebooku navrženy, mohou mít stále významný dopad na politický diskurz.

Související příběh

Riskovala vše, aby odhalila Facebook. Nyní vypráví svůj příběh.

Sophie Zhang, bývalá datová vědkyně na Facebooku, odhalila, že umožňuje globální politickou manipulaci a udělala jen málo pro její zastavení.

Allen ve zprávě identifikuje tři důvody, proč jsou tyto stránky schopny získat tak velké publikum. Za prvé, Facebook nepenalizuje stránky za zveřejňování zcela neoriginálního obsahu. Pokud se něco již dříve stalo virálním, pravděpodobně se to stane virálním znovu, až bude zveřejněno podruhé. Díky tomu je opravdu snadné, aby si kdokoli vybudoval masivní následovníky například mezi černými Američany. Špatní herci mohou jednoduše zkopírovat virový obsah ze stránek Black Americans, nebo dokonce Reddit a Twitter, a vložit jej na svou vlastní stránku – nebo někdy i desítky stránek.

Za druhé, Facebook tlačí na stránky poutavý obsah lidem, kteří je nesledují. Když přátelé uživatelů komentují nebo sdílejí příspěvky na jedné z těchto stránek, tito uživatelé to uvidí také ve svých informačních kanálech. Čím více je obsah stránky komentován nebo sdílen, tím více přesahuje své sledující. To znamená, že trollí farmy, jejichž strategie se soustředí na opětovné zveřejňování nejpoutavějšího obsahu, mají obrovskou schopnost oslovit nové publikum.

Za třetí, systém hodnocení Facebooku posouvá zajímavější obsah výše v informačních kanálech uživatelů. Lidé, kteří provozují trollí farmy, mají většinou spíše finanční než politické motivy; zveřejňují to, co se nejvíce zajímá, bez ohledu na skutečný obsah. Ale protože dezinformace, clickbait a politicky rozdělující obsah je pravděpodobnější, že získá vysokou míru zapojení (jak potvrzují vlastní interní analýzy Facebooku), trollí farmy časem tíhnou k tomu, že toho budou zveřejňovat více, uvádí zpráva.

Výsledkem bylo, že v říjnu 2019 bylo všech 15 nejlepších stránek zaměřených na křesťanské Američany, 10 z 15 nejlepších stránek na Facebooku zaměřených na černochy a čtyři z 12 nejlepších stránek na Facebooku zaměřené na domorodé Američany provozovány trollími farmami.

Naše platforma dala největší hlas v křesťansko-americké komunitě hrstce špatných herců, kteří na základě svých praktik mediální produkce nikdy nechodili do kostela, napsal Allen. Naše platforma dala největší hlas v afroamerické komunitě hrstce špatných herců, kteří na základě svých praktik mediální produkce nikdy neměli interakci s Afroameričanem.

Související příběh

Recenze: Proč se Facebook nikdy nemůže opravit sám

Reportérky Sheera Frenkel a Cecilia Kang v An Ugly Truth odhalují zásadní nedostatky Facebooku prostřednictvím podrobného popisu let mezi dvěma americkými volbami.

Vždy mi to bude připadat hluboce divné... a skutečně děsivé, napsal. Zdá se zcela jasné, že dokud nebude možné tuto situaci napravit, budeme vždy pociťovat vážné protivětry ve snaze splnit naši misi.

Zpráva také navrhla možné řešení. Není to zdaleka poprvé, co lidstvo bojuje proti špatným aktérům v našich mediálních ekosystémech, napsal s poukazem na to, že Google používá to, co je známé jako grafová měřítka autority – která hodnotí kvalitu webové stránky podle toho, jak často cituje a je citován jinými kvalitními webovými stránkami – aby snížil špatné hráče ve svém hodnocení ve vyhledávání.

Máme vlastní implementaci měření autority na základě grafu, pokračoval. Pokud by platforma více zohlednila tuto existující metriku při hodnocení stránek, mohlo by to pomoci obrátit znepokojivý trend, kdy stránky oslovují nejširší publikum.

Když hodnocení Facebooku upřednostňuje zapojení, stránky trollí farmy porážejí autentické stránky, napsal Allen. Ale 90 % stránek Troll Farm Pages má přesně 0 Graph Authority... [Autentické stránky] jasně vítězí.

Systémové problémy

Prohledání všech stránek trolích farem uvedených ve zprávě ukazuje, že pět je stále aktivních téměř o dva roky později:

• Stránka s názvem My Baby Daddy Ain’t Shit, která byla v říjnu 2019 největší facebookovou stránkou zaměřenou na Afroameričany.
• Stránka s názvem Savage Hood, která cílí na Afroameričany.
• Stránka s názvem Hood Videos, která cílí na Afroameričany.
• Stránka s názvem Účel života, zaměřená na křesťany.
• Stránka nazvaná Eagle Spirit zaměřená na domorodé Američany.

Stránka trollí farmy zaměřená na křesťanské Američany.

Nedávná kontroverze Facebooku Přehled široce sledovaného obsahu naznačuje, že některé ze základních zranitelností, které trollí farmy využívaly, také zůstávají. Patnáct z 19 nejsledovanějších příspěvků uvedených v přehledu byly plagiáty z jiných příspěvků, které se předtím staly virálními na Facebooku nebo jiné platformě, podle analýzy Caseyho Newtona na The Verge.

Samantha Bradshaw, postdoktorandská výzkumná pracovnice na Stanfordské univerzitě, která studuje průnik dezinformací, sociálních médií a demokracie, říká, že zpráva hovoří o mnoha hlubších systémových problémech s platformou a jejich algoritmem způsobem, jakým propagují určité druhy obsah pro určité uživatele, vše jen na základě této základní hodnoty růstu. Pokud tyto nebudou opraveny, budou nadále vytvářet zkreslené ekonomické pobídky pro špatné herce, dodává: To je ten problém.

Celou zprávu si přečtěte zde:

skrýt