EmTech Stage: CTO Twitteru pro dezinformace

V druhém ze dvou exkluzivních rozhovorů se šéfredaktor Technology Review Gideon Lichfield posadil s Paragem Agrawalem, technologickým ředitelem Twitteru, aby prodiskutovali nárůst dezinformací na platformě sociálních médií. Agrawal diskutuje o některých opatřeních, která společnost přijala, aby se bránila, a zároveň přiznává, že Twitter se snaží napíchnout jehlu zmírňující škody způsobené falešným obsahem, aniž by se stal arbitrem pravdy. Tato konverzace pochází z virtuální konference EmTech MIT a byla kvůli srozumitelnosti upravena.

Pro více informací o tomto tématu se podívejte epizoda tohoto týdne Deep Tech a pokrytí našich technických zásad.

Kredity:

Tuto epizodu z EmTech MIT produkovaly Jennifer Strong a Emma Cillekens, se zvláštním poděkováním Brianu Brysonovi a Benjimu Rosenovi. Editují nás Michael Reilly a Gideon Lichfield.

přepis:

Silný: Ahoj všichni, tady je Jennifer Strong zpět s druhou částí našeho rozhovoru o dezinformacích a sociálních sítích. Pokud je Facebook místem setkávání, kam chodíte hledat svou komunitu, YouTube koncertní síň nebo zákulisí něčeho, čeho jste fanouškem, pak je Twitter trochu jako veřejné náměstí, kam chodíte, abyste zjistili, co se o něčem říká. Ale jakou odpovědnost mají tyto platformy, když se tyto rozhovory rozvíjejí? Twitter uvedl, že jednou z jeho povinností je zajistit, aby veřejná konverzace byla zdravá. Co to znamená a jak to měříte?

Je to otázka, kterou jsme položili technologickému řediteli Twitteru Paragovi Agrawalovi. Tady je v rozhovoru s šéfredaktorem Tech Review Gideonem Lichfieldem. Byl natočen na naší konferenci EmTech a byl upraven kvůli délce a srozumitelnosti.

Lichfield: Před pár lety existoval projekt, ve kterém jste začali mluvit o metrikách, které by měřily, co je zdravá veřejná konverzace. Od té doby jsem toho moc neviděl. Tak co se s tím děje? Jak to změříte?

Agrawal: Před dvěma lety ve spolupráci s některými lidmi z mediální laboratoře MIT a inspirováni tímto myšlením jsme se pustili do projektu spolupráce s akademiky mimo společnost, abychom zjistili, zda bychom mohli definovat několik jednoduchých metrik nebo měření, která by indikovala zdraví veřejné konverzace. Při spolupráci s odborníky z mnoha míst jsme si uvědomili, že je velmi, velmi náročné shrnout nuance a složitosti toho, co považujeme za zdravou veřejnou konverzaci, do několika jednoduše pochopitelných a snadno měřitelných metrik, kterým můžete věřit. A tento rozhovor vedl ke změně našeho přístupu.

Co se změnilo, je to, zda se snažíme shrnout věci do několika čísel nebo ne. Ale co zůstalo, je, že si uvědomujeme, že potřebujeme spolupracovat s akademickými výzkumníky mimo Twitter, sdílet více našich dat v otevřeném prostředí, kde je mohou použít k výzkumu, k pokroku v různých oblastech. A existuje spousta produktů souvisejících s API, které budeme dodávat v nadcházejících měsících. A jedna z věcí, která přímo vedla k tomuto rozhovoru, byla v dubnu, když jsme viděli, uh, COVID, uh, vytvořili jsme konečný bod pro konverzaci související s COVID, ke které měli akademičtí vědci přístup. Uh, viděli jsme výzkum ve čtyřech 20 zemích, přístup.

Takže v určitém smyslu jsem rád, že jsme se na tu cestu vydali. A stále doufám, že s tímto přístupem s otevřeným koncem budou existovat akademici a naše spolupráce s nimi, což nás nakonec povede k pochopení veřejné konverzace a zdravé veřejné konverzace natolik, že budeme schopni zredukovat měření na několik málo metrik. . Ale jsem také nadšený ze všech dalších cest výzkumu, které nám tento přístup otevírá.

Lichfield: Máte představu, jak by vypadal příklad takové metriky?

Agrawal: Takže když jsme se rozhodli o tom mluvit, předpokládali jsme, že existuje několik metrik, sdílejí lidé smysl pro realitu? Mají lidé různé pohledy a mohou být vystaveni různým pohledům? Mysleli jsme na to, zda je rozhovor civilní, že? Takže koncepčně jsou to všechny vlastnosti, které si přejeme ve zdravé veřejné konverzaci. Výzva spočívá ve schopnosti měřit je způsobem, který je schopen se vyvíjet s tím, jak se konverzace vyvíjí, způsobem, který je spolehlivý a obstojí ve zkoušce času, protože konverzace před dvěma lety byla velmi odlišná od dnešní konverzace. Výzvy před dvěma lety, jak jsme je chápali, jsou dnes velmi odlišné. Uh, a to je místo, kde některé z výzev a naše chápání toho, co znamená zdravá veřejná organizace, se stále objevují, abychom to mohli shrnout do těchto jednoduchých metrik.

Lichfield: Pojďme si trochu promluvit o některých věcech, které jste udělali za posledních pár let. Myslím tím, že rozhodnutí o nahlášení některých tweetů Donalda Trumpa bylo zjevně věnováno hodně pozornosti. Myslím, že díky systematičtější práci, kterou jste v posledních několika letech proti dezinformacím pracovali, můžete shrnout hlavní body toho, co jste dělal?

Agrawal: Náš přístup k tomu není snažit se identifikovat nebo označit všechny potenciální dezinformace. Náš přístup je však zakořeněn ve snaze vyhnout se konkrétním škodám, které mohou způsobit zavádějící informace. V našem přístupu jsme se zaměřili na škody, které mohou být způsobeny dezinformacemi o COVID-19, což souvisí s veřejným zdravím, kde je dezinformováno několik lidí, což může mít důsledky pro všechny. Podobně jsme se zaměřili na dezinformace kolem toho, čemu říkáme občanská bezúhonnost, což je o tom, že lidé mají schopnost vědět, jak se zúčastnit voleb.

Abychom to objasnili, příkladem je občanská integrita, na které nám záleží a podnikáme kroky ohledně obsahu, který by mohl dezinformovat lidi, kteří říkají, že byste měli volit 5. listopadu, kdy je den voleb 3. listopadu. A nesnažíme se určovat, co je pravda nebo ne, když někdo zaujímá politické stanovisko nebo když někdo říká, že obloha je fialová, modrá nebo červená. Náš přístup k dezinformacím se také nezaměřuje na odstranění obsahu jako na jediné opatření, což je režim, ve kterém všichni fungujeme mnoho let. Jde však o stále jemnější přístup s řadou intervencí, kdy přemýšlíme o tom, zda by měl být určitý obsah zesílen bez kontextu, nebo zda je naší povinností poskytnout určitý kontext, aby lidé viděli spoustu informací, ale zároveň měli schopnost a snadnost objevovat všechny konverzace a souvislosti kolem nich, informovat se o tom, v co se rozhodnou věřit.

Lichfield: Jak hodnotíte, zda je něco škodlivé, aniž byste se zároveň snažili zjistit, zda je to pravda, jinými slovy konkrétně například COVID?

Agrawal: To je skvělá otázka a myslím si, že v některých případech se při poskytování tohoto kontextu spoléháte na důvěryhodné zdroje. Nemusíte tedy vždy určovat, zda je něco pravdivé nebo nepravdivé, ale pokud existuje potenciál pro poškození, rozhodneme se neoznačit něco jako pravdivé nebo nepravdivé, ale rozhodneme se přidat odkaz na důvěryhodné zdroje nebo na další konverzaci kolem toto téma, poskytnout lidem kontext kolem části obsahu, aby mohli být lépe informováni, i když se tato data pro porozumění a znalosti vyvíjejí. A veřejná konverzace je pro tento vývoj zásadní. Viděli jsme, jak se lidé učí prostřednictvím Twitteru kvůli způsobu, jakým byli informováni. A odborníci vedou rozhovory prostřednictvím Twitteru, aby zlepšili stav našeho chápání této nemoci.

Lichfield: Lidé před QAnon varovali roky. V červenci jste začali rušit účty QAnon. Co ti trvalo tak dlouho? Proč jste... co se změnilo ve vašem myšlení?

Agrawal: Způsob, jakým o QAnon přemýšlíme nebo jak jsme o QAnon přemýšleli, je takový, že máme koordinovanou politiku manipulace, kterou už nějakou dobu máme, a způsob, jakým to funguje, je, že spolupracujeme se státními službami a skupinami pro lidská práva po celém světě ve snaze pochopit, které skupiny nebo které organizace nebo jaký druh činnosti poroste na úroveň škod, kde to od nás vyžaduje akci. Při zpětném pohledu bych si přál, abychom jednali dříve, ale protože jsme hrozbě dobře rozuměli, díky spolupráci s těmito skupinami jsme podnikli kroky a naše akce zahrnovaly určitým způsobem snížení rozšíření tohoto obsahu a nahlášení tohoto obsahu způsobem, který vedl k velmi rychlý pokles v míře dosahu QAnon a související obsah se dostal na platformu o více než 50 %. A od té doby jsme v důsledku tohoto kroku zaznamenali trvalý pokles.

Lichfield: Dostávám od publika docela dost otázek, které se tak nějak všechny ptají na to samé. A v podstatě se ptají, no, přečtu si je. Kdo může rozhodnout, co je dezinformace? Můžete dát jasnou klinickou definici dezinformací? Musí mít něco zlý úmysl, aby to byla dezinformace? Jak víte, zda jsou vaše důvěryhodné zdroje pravdivé, co měří důvěryhodnost těchto zdrojů a někdo dokonce říká, že jsem viděl dezinformace v takzvaných důvěryhodných zdrojích. Jak tedy definujete tuto frázi?

Agrawal: Myslím, že to je existenční otázka naší doby. Definovat dezinformace je opravdu, opravdu těžké. Jak se postupem času učíme, vyvíjí se i naše chápání pravdy. Snažíme se neodsuzovat pravdu, zaměřujeme se na potenciální poškození. A když říkáme, že se opíráme o důvěryhodné zdroje, opíráme se také o veškerou konverzaci na platformě, kde se také mluví o těchto důvěryhodných zdrojích a poukazuje na potenciální mezery, v jejichž důsledku důvěryhodné zdroje také rozvíjejí své myšlení nebo to, co mluví. o.

Takže jsme se mnohem méně soustředili na to, co je pravda a co ne. Mnohem více se zaměřujeme na potenciální poškození v důsledku toho, že určitý obsah je na platformě rozšířen bez vhodného kontextu. A kontext je často jen další konverzace, která poskytuje jiný úhel pohledu na téma, takže lidé mohou vidět šíři konverzace na naší platformě i mimo ni a učinit svá vlastní rozhodnutí ve světě, kde se všichni společně učíme.

Lichfield: Uplatňujete jiný standard na věci, které pocházejí od světových lídrů?

Agrawal: Máme zásady týkající se veřejného obsahu ve veřejném zájmu, je to v našem rámci zásad. Takže ano, používáme různé standardy. A to je založeno na pochopení a vědomí, že existuje určitý obsah od volených představitelů, který je pro veřejnost důležitý, aby jej viděl a slyšel. A že veškerý obsah na Twitteru není pouze na Twitteru. Je to v redakcích, je to na tiskových konferencích, ale často je zdrojový obsah na Twitteru. Zásady veřejného zájmu mají zajistit, aby byl zdrojový obsah přístupný. Pokud takový obsah porušuje kteroukoli z našich zásad, velmi jasně nahlašujeme všem kolem. Udělali jsme odvážný krok a označili to, označili to tak, aby lidé měli patřičný kontext, že se skutečně jedná o příklad porušení, aby se lidé mohli na tento obsah dívat ve světle tohoto porozumění.

Lichfield: Když si vezmete prezidenta Trumpa, Cornellova studie to ukazuje – naměřili, že ho zmiňuje 38 % dezinformací o COVID. Označili je za největšího hybatele dezinformací kolem COVID. Označili jste některé z jeho tweetů, ale je jich mnoho, které zveřejňuje, které zcela neodpovídají přísné definici dezinformací, a přesto uvádí lidi v omyl ohledně povahy pandemie. Nenarušuje to tedy celou strategii, tato výjimka pro veřejné činitele?

Agrawal: Každý veřejný činitel má přístup k několika způsobům, jak oslovit lidi. Twitter je jedním z nich. Žijeme ve velkém ekosystému. Náš přístup k označování obsahu nám ve skutečnosti umožňuje u zdroje označit obsah, který by mohl lidem potenciálně ublížit, a také poskytnout lidem další kontext a další konverzaci kolem něj. Takže mnoho z těchto studií, a já neznám tu, kterou jste citoval, je ve skutečnosti širší než Twitter. A pokud se týkají Twitteru, mluví o dosahu a dojmech, aniž by mluvili o tom, že lidé jsou také vystaveni dalším informacím o daném tématu. Nyní nemůžeme rozhodovat o tom, čemu se lidé rozhodnou věřit, ale můžeme předvést obsah a různé názory na jakékoli téma, aby se lidé mohli rozhodnout sami.

Lichfield: To zní trochu, jako by ses snažil říct, no, není to jen naše chyba. Je to chyba všech. A proto s tím nemůžeme moc dělat.

Agrawal: Nevěřím, že to říkám. Co mluvím, témata dezinformací ve společnosti vždy existovala. Nyní jsme kritickou součástí struktury veřejné konverzace, a to je naše role ve světě. To nejsou témata, ze kterých bychom se museli vymanit. To jsou témata, která zůstanou aktuální dnes a budou aktuální i za pět let. Nežiji v iluzi, že dokážeme něco, co magicky odstraní problém zavádějících informací. Nemáme takovou moc nebo kontrolu. A upřímně bych tu moc nebo kontrolu nechtěl. Ale máme tu čest lidem naslouchat, mít na naší platformě různorodou skupinu lidí, kteří vyjadřují různorodé názory, věci, na kterých všem opravdu záleží, a abychom je mohli předvést správný kontext, aby se společnost mohla jeden od druhého učit a posouvat se vpřed.

Lichfield: Když mluvíte o tom, že necháte lidi vidět obsah a vyvodit vlastní závěry nebo dojít k vlastním názorům, je to ten druh jazyka, který je s tím spojen, myslím si, že tak, jak se platformy sociálních médií tradičně prezentovaly. ‚Jsme jen neutrální prostor, lidé přicházejí a využívají nás, nesnažíme se soudit‘. A zdá se, že je to trochu v rozporu s tím, co jste řekl dříve o snaze podporovat zdravou veřejnou konverzaci, která zjevně zahrnuje mnoho hodnotových soudů o tom, co je zdravé. Tak jak ty dva sladíte?

Agrawal: Oh, neříkám, že jsme neutrální stranou celého tohoto rozhovoru. Jak jsem řekl, jsme kritickou součástí struktury veřejné konverzace. A nechtěli byste, abychom posuzovali, co je na světě pravda nebo co nepravda. A upřímně, nemůžeme to udělat globálně ve všech zemích, ve kterých pracujeme, napříč všemi kulturami a všemi nuancemi, které existují. Máme však tu čest, že každý na platformě může věci změnit, dát lidem větší kontrolu a musíme konverzaci řídit tak, aby byla vnímavější a umožnila slyšet více hlasů a pro všechny abychom byli lépe informováni.

Lichfield: Jedna z věcí, o kterých někteří pozorovatelé říkají, že byste to mohli udělat a která by měla velký rozdíl, by bylo zrušení funkce trendových témat, protože právě tam se dostává na povrch spousta dezinformací. Věci jako hashtag QAnon zachraňují děti nebo existovala konspirační teorie o tom, že zaměstnanci Hillary Clintonové manipulují volební výbor v Iowě. Někdy se takové věci dostanou do trendových témat a pak mají velký vliv. Co si o tom myslíš?

Agrawal: Nevím, jestli jste to viděli, ale právě tento týden jsme změnili způsob, jakým trendy a trendy témata na platformě fungují. A jedna z věcí, kterou jsme udělali, byla, že ukážeme kontext všeho, co je trendy, aby lidé byli lépe informováni, když vidí, o čem lidé mluví.

Silný: Dáme si krátkou přestávku – ale nejdřív... chci navrhnout další pořad, který se vám bude líbit. Brave New Planet zvažuje klady a zápory široké řady výkonných inovací ve vědě a technice. Dr. Eric Lander, který řídí Broad Institute of MIT a Harvard, zkoumá těžké otázky jako

Lander: Měli bychom změnit zemskou atmosféru, abychom zabránili změně klimatu? A může pravda a demokracie přežít dopad deepfakes?

Silný: Brave New Planet pochází od Pushkin Industries. Najdete ho všude, kde získáte své podcasty. Hned po tomto se vrátíme.

[Reklama]

Silný: Vítejte zpět u speciální epizody In Machines We Trust. Toto je rozhovor mezi technologickým ředitelem Twitteru Paragem Agrawalem a šéfredaktorem Tech Review Gideonem Lichfieldem. Pokud chcete více na toto téma, včetně naší analýzy, podívejte se prosím na poznámky k výstavě nebo nás navštivte na Technology Review dot com.

Lichfield: Volby jsou evidentně velmi blízko. A myslím, že spousta lidí se ptá, co se stane, zejména v den voleb, protože se začínají objevovat zprávy z průzkumů veřejného mínění, existují obavy, že někteří politici budou šířit fámy o násilí nebo falšování voleb nebo jiných, jiných problémech. , což by zase mohlo vyvolat demonstrace a násilí. A to je něco, na co všechny sociální platformy budou muset reagovat velmi rychle v reálném čase. Co budeš dělat?

Agrawal: Za poslední čtyři roky jsme prošli volbami v mnoha zemích. Indie, Brazílie, velké demokracie se učily prostřednictvím každého z nich a my jsme v průběhu let pracovali na tom, abychom byli lépe připraveni na to, co přijde. Minulý rok jsme provedli změnu v zásadách zákazu veškeré politické reklamy na Twitteru, což bylo v očekávání jejího potenciálu škodit. A chtěli jsme, aby se naše pozornost soustředila nikoli na reklamu, ale na veřejnou konverzaci, která se organicky odehrává, abychom ji mohli chránit a zlepšovat, zejména pokud jde o konverzace kolem voleb.

Udělali jsme spoustu práce na technologii, abychom se zlepšili v odhalování a pochopení státních špatných aktérů a jejich pokusů zmanipulovat volby, a byli jsme v tom velmi transparentní. Zveřejnili jsme stovky takových operací z více než 10 zemí, každý s desítkami tisíc účtů a terabajty dat, které umožňují lidem mimo společnost je analyzovat a porozumět vzorcům manipulace ve hře. A pokročili jsme se změnami produktu, aby bylo více ohleduplnosti a ohleduplnosti k tomu, jak lidé sdílejí obsah a jak lidé obsah rozšiřují.

Takže jsme udělali spoustu této práce v rámci přípravy a učení na cestě. Abych se dostal k odpovědi o volební noci. Posílili jsme také zásady naší občanské bezúhonnosti, abychom nikomu, žádnému kandidátovi nebo komukoli bez ohledu na rasu nedovolili vyhlásit volby, když nebyl vyhlášen vítěz. Máme také zavedena přísná opatření, abychom se vyhnuli podněcování k násilí. A máme připravený tým, který bude pracovat 24/7, aby nás uvedl do agilního stavu.

Jak již bylo řečeno, udělali jsme spoustu práce, abychom předvídali, co by se mohlo stát, ale jedna věc, kterou víme jistě, je to, co se pravděpodobně stane, není něco, co jsme přesně očekávali. Takže to, co pro nás bude v tu noc a ještě déle důležité, a dokonce až do té doby, abychom byli připraveni, být agilní, reagovat na zpětnou vazbu, kterou jsme dostávali na platformě, reagovat na konverzaci, kterou vidíte na a mimo platformu, uh, a pokuste se udělat vše, co je v našich silách, abychom sloužili veřejné konverzaci v této důležité době v této zemi.

Lichfield: Někdo z, uh, z publika se zeptal na něco, s čím si myslím, že byste nesouhlasili, což bylo, řekli, měl by být Facebook a Twitter na tři dny před volbami vypnuty? Ale možná skromnější verze by byla, existuje nějaký druh obsahu, který by podle vás měl být uzavřen těsně před volbami?

Agrawal: Právě tento týden je jednou z významných změn, o kterých stojí za to mluvit podrobněji, že jsme přiměli lidi, aby byli více ohleduplní, více přemýšleli, když retweetují. Takže namísto toho, abychom mohli jednoduše retweetovat obsah bez dalších komentářů, nyní lidem standardně přidáváme komentář, když retweetují. A to ze dvou důvodů, jeden pro přidání dalších úvah, když retweetujete a zesilujete určitý obsah, a dva, aby byl obsah sdílen s větším kontextem o tom, co si o něm myslíte, aby lidé pochopili, proč jej sdílíte a co kontext kolem množiny konverzace je. Také jsme provedli změnu trendů, které jsem popsal dříve. Toto jsou změny, které mají vést k tomu, aby byla konverzace na Twitteru promyšlenější.

Jak již bylo řečeno, Twitter bude v době voleb velmi, velmi mocným nástrojem, aby lidé pochopili, co se děje, aby lidé získali opravdu důležité informace. Na všech kandidátech máme štítky. Na platformě máme informace o tom, jak mohou hlasovat. Máme zpětnou vazbu v reálném čase od lidí z celé země, která lidem říká, co se děje na místě. A to vše jsou důležité informace, které by si měl každý v této zemi za tu dobu uvědomit. Je to okamžik, kdy každý z nás hledá informace a naše platforma hraje v ten den obzvláště důležitou roli.

Lichfield: Jste chyceni na trochu těžkém místě, protože někdo z publika také poukazuje na to, že se snažíte bojovat proti dezinformacím, chcete také chránit svobodu slova jako základní hodnotu, a také v USA jako první pozměňovací návrh. Jak tyto dvě věci vyvažujete?

Agrawal: Naší úlohou není být vázán prvním dodatkem, ale naší úlohou je sloužit zdravé veřejné konverzaci a naše kroky odrážejí věci, o kterých jsme přesvědčeni, že vedou ke zdravější veřejné konverzaci. Věci, které s tím děláme, je, že se méně zaměřujeme na přemýšlení o svobodě slova, ale na přemýšlení o tom, jak se doba změnila. Jednou ze změn, které dnes vidíme, je, že řeč je na internetu snadná. Většina lidí umí mluvit. Naše role je zvláště zdůrazněna, kdo může být slyšen. Nedostatkovým zbožím je dnes pozornost. Je tam spousta obsahu. Existuje mnoho tweetů, ne všechny přitahují pozornost, některá z nich přitahuje pozornost. A tak se naše role stále více posouvá směrem k tomu, jak doporučujeme obsah, a tento druh, je, je, boj, kterým procházíme, pokud jde o to, jak zajistit, aby tyto systémy doporučení, které budujeme, jak směrujeme pozornost lidí vede ke zdravé veřejné konverzaci, která je nejvíce participativní.

Lichfield: Čas nám vypršel, ale děkujeme za opravdu zajímavý pohled na to, jak přemýšlíte o těchto velmi komplikovaných otázkách.

Agrawal: Děkuji Gideone, že mě máš.

[Hudba]

Silný: Pokud byste si chtěli poslechnout analýzu tohoto tématu a voleb z naší redakce... vložil jsem odkaz do našich poznámek k pořadu. Doufám, že to zkontrolujete. Tuto epizodu z EmTech jsme produkovali já a Emma Cillekens, se zvláštním poděkováním Brianu Brysonovi a Benjimu Rosenovi. Editují nás Michael Reilly a Gideon Lichfield. Jako vždy děkuji za poslech. Jsem Jennifer Strong.

[TR ID]

skrýt