Bojujeme s roboty AI s falešnými zprávami tím, že používáme více AI. to je chyba.

Foto obálky knihy

• Samuel Woolley je odborným asistentem na Moody School of Communication na University of Texas-Austin. Toto je upravený úryvek z jeho připravované knihy The Reality Game .

Kdykoli se přihlásíte na Twitter a podíváte se na oblíbený příspěvek, pravděpodobně najdete účty robotů, které se mu líbí nebo ho okomentují. Proklikejte se a uvidíte, že tweetovali mnohokrát, často v krátkém časovém rozpětí. Někdy jejich příspěvky prodávají nevyžádané zboží nebo šíří digitální viry. Jiné účty, zejména roboti, kteří zveřejňují zkomolený vitriol v reakci na konkrétní zpravodajské články nebo oficiální prohlášení, jsou zcela politické.

Je snadné předpokládat, že celý tento fenomén je poháněn pokročilou informatikou. Mluvil jsem s mnoha lidmi, kteří si myslí, že algoritmy strojového učení poháněné strojovým učením nebo umělou inteligencí dávají politickým robotům schopnost učit se ze svého okolí a komunikovat s lidmi sofistikovaným způsobem.

Během událostí, ve kterých se nyní výzkumníci domnívají, že klíčovou roli sehráli političtí roboti a dezinformace – referendum o Brexitu, soutěž Trump-Clinton v roce 2016, krymská krize – panuje rozšířený názor, že chytré nástroje AI umožnily počítačům vydávat se za lidi a pomáhat s manipulací. veřejný rozhovor.

Vědci a novináři to podpořili: Bylo extrémně provokativní příběhy o vzestupu AI propagandistického stroje a příběhů tvrdí že umělá inteligence dobyla demokracii. Dokonce i můj vlastní výzkum toho, jak se sociální média používají k utváření veřejného mínění, nabourávání pravdy a umlčování protestů – to, co je známé jako počítačová propaganda – bylo citováno v článcích, které naznačují, že naši vládci robotů jsou již tady.

Skutečností však je, že složité mechanismy, jako je umělá inteligence, hrály v dosavadních kampaních počítačové propagandy malou roli. Všechny důkazy, které jsem viděl na Cambridge Analytica, naznačují, že firma nikdy nespustila psychografické marketingové nástroje, které tvrdila, že vlastní během voleb v USA v roce 2016 – ačkoli uvedla, že by mohla cílit na jednotlivce konkrétními zprávami založenými na osobnostních profilech odvozených z její kontroverzní databáze na Facebooku.

Když jsem byl v Oxfordském internetovém institutu, mezitím jsme se zabývali tím, jak a zda se během debaty o Brexitu využívali boti na Twitteru. Zjistili jsme, že zatímco mnohé byly použity k šíření zpráv o kampani Leave, velká většina automatických účtů byla velmi jednoduchá. Byly vytvořeny tak, aby měnily online konverzaci s roboty, kteří byli vytvořeni jednoduše tak, aby zvyšovali lajky a sledování, šířili odkazy, herní trendy nebo trollskou opozici. Hrály ho malé skupiny lidských uživatelů, kteří pochopili kouzlo memů a virality, rozsévání konspirací online a sledování jejich růstu. Konverzace byly blokovány základním spamem a hlukem generovaným roboty, které byly účelově připojeny ke konkrétním hashtagům za účelem demobilizace online konverzací. Odkazy na zpravodajské články, které ukazovaly politika v konkrétním světle, byly medializovány falešnými nebo proxy účty vytvořenými tak, aby posílaly a repostovaly stejné nevyžádané věci znovu a znovu a znovu. Tyto kampaně byly vedeny zcela otevřeně: tito roboti nebyli navrženi tak, aby byli funkčně konverzační. Nepoužili AI.

Hloupý už ne

Existují však signály, že se začíná používat počítačová propaganda a dezinformace s podporou umělé inteligence. Hackeři a další skupiny již začaly testovat účinnost nebezpečnějších AI botů na sociálních sítích. Kousek z roku 2017 od Gizmodo oznámili, že dva datoví vědci naučili umělou inteligenci navrhovat vlastní phishingovou kampaň: V testech byl umělý hacker podstatně lepší než jeho lidští konkurenti, skládal a distribuoval více phishingových tweetů než lidé a s podstatně lepším konverzním poměrem.

Problematický obsah nešíří pouze političtí boti s podporou strojového učení. Problematické využití nebo návrhy technologií rovněž nevytvářejí pouze společnosti zabývající se sociálními sítěmi. Výzkumníci poukázali na to, že strojové učení může být poskvrněno jedovými útoky – škodlivými aktéry, kteří ovlivňují trénovací data, aby změnili výsledky daného algoritmu – ještě předtím, než je stroj vůbec zveřejněn.

Kalev Leetaru, vedoucí pracovník Univerzity George Washingtona, naznačuje, že první útoky řízené roboty AI nemusí být zaměřeny na sociální média, ale místo toho by zahrnovaly to, co je známé jako distribuovaný útok typu denial-of-service, který zahrnuje vypínání cílených webových serverů. tím, že je zahltí dopravou.

Představte si na okamžik, že jste tento botnet předali kontrole systému hlubokého učení a dali tomuto algoritmu AI úplnou kontrolu nad každým knoflíkem a číselníkem tohoto botnetu, píše Leetaru .

Toto úsilí není zaměřeno na pomoc zpravodajským organizacím prověřovat hromady obsahu. Spíše pomáhají multimiliardové firmě udržovat čistotu ve vlastním domě.

Poskytujete mu také živé přenosy informací o globálním stavu internetu od hlavních dodavatelů kybernetické bezpečnosti a monitorování z celého světa, takže může sekundu po sekundě sledovat, jak oběť a zbytek internetu obecně na útok reagují. Možná to vše přichází poté, co algoritmus stráví několik týdnů sledováním cíle do vynikajících detailů, abyste pochopili úplnost a nuance jeho dopravních vzorců a chování a provrtali si cestu jeho vnějšími vrstvami obrany.

Mimo obranu

V dubnu 2018 se Mark Zuckerberg objevil před Kongresem: byl pod politickým drobnohledem kvůli špatnému zacházení s informacemi uživatelů během voleb v roce 2016. Ve svém dvoudílném svědectví zmínil umělou inteligenci více než 30krát, což naznačuje, že AI bude řešením problému digitálních dezinformací tím, že poskytne programy, které budou bojovat proti naprostému objemu počítačové propagandy. Předpověděl, že v příštím desetiletí bude umělá inteligence zachráncem masivních problémů, s nimiž se Facebook a další potýkají při řešení globálního šíření nevyžádaného obsahu a manipulace.

Existuje tedy způsob, jak bychom mohli využít AI nebo technologii automatizovaných botů k řešení manipulace s veřejným míněním online? Můžeme použít AI k boji s AI?

Observatoř sociálních médií na Indiana University vybudoval veřejné nástroje které využívají strojové učení k detekci robotů tím, že se podívají na 1200 funkcí, aby určily, zda je pravděpodobnější, že jde o člověka nebo robota.

A produktová manažerka Facebooku Tessa Lyons uvedl v oznámení z roku 2018 že strojové učení nám pomáhá identifikovat duplikáty odhalených příběhů. Například ověřovatel faktů ve Francii vyvrátil tvrzení, že člověka po mrtvici můžete zachránit tím, že se jehlou píchnete do prstu a odeberete krev. To nám umožnilo identifikovat více než 20 domén a více než 1 400 odkazů šířících stejné tvrzení.

V takových případech mohou společnosti zabývající se sociálními médii využít strojové učení, aby získaly a dokonce ověřily ověření faktů z celého světa a pomocí těchto oprav založených na důkazech označili falešný obsah.

V akademické obci se však vedou velké diskuse o tom, zda je pasivní identifikace potenciálně nepravdivých informací pro uživatele sociálních sítí skutečně efektivní. Někteří badatelé naznačují, že snahy o ověřování faktů online i offline nefungují ve své současné podobě příliš efektivně. Na začátku roku 2019 web Snopes provádějící kontrolu faktů, který spolupracoval s Facebookem v takových nápravných snahách, přerušil vztah . V an rozhovor s Poynter Institute, Snopesův viceprezident pro operace Vinny Green řekl: Nezdá se, že bychom se snažili učinit ověřování faktů třetími stranami praktičtější pro vydavatele – zdá se, že se snažíme to Facebooku usnadnit.

Organizace jako Facebook i nadále spoléhají na malé, obvykle neziskové organizace, aby prověřily obsah. Potenciálně nepravdivé články nebo videa jsou těmto skupinám často předávány bez informací o tom, jak nebo proč byly nahlášeny.

Toto úsilí není zaměřeno na pomoc zpravodajským organizacím prověřovat hromady obsahu nebo potenciálních zákazníků, které každý den dostávají, aby pomohli reportérům s nedostatečnými zdroji lépe pracovat. Spíše pomáhají multimiliardové společnosti udržovat její vlastní dům v čistotě post hoc způsobem. Je načase, aby Facebook převzal interně odpovědnost za ověřování faktů, místo aby předával úkol ověřování nebo vyvracení zpráv jiným skupinám. Facebook a další společnosti zabývající se sociálními médii se také musí přestat spoléhat na ověření faktů – to znamená až poté, co se nepravdivý článek stal virálním. Tyto společnosti potřebují vytvořit nějaký druh systému včasného varování pro počítačovou propagandu.

Facebook, Google a další jim podobní zaměstnávají lidi, aby našli a odstranili obsah, který obsahuje násilí nebo informace od teroristických skupin. Ve snaze zbavit se dezinformací jsou však mnohem méně horliví. Spousta různých kontextů, v nichž on-line proudí nepravdivé informace – všude od voleb v Indii až po velkou sportovní událost v Jižní Africe – způsobuje, že je pro AI obtížné fungovat na základě vlastních, chybějících lidských znalostí. Ale v nadcházejících měsících a letech bude zapotřebí hordám lidí po celém světě, aby účinně prověřili obrovské množství obsahu za bezpočtu okolností, které nastanou.

Na problém počítačové propagandy na sociálních sítích prostě neexistuje jednoduché řešení. Je však povinností společností najít způsob, jak to opravit. Zatím se zdá, že Facebook se mnohem více zaměřuje na vztahy s veřejností než na regulaci toku počítačové propagandy nebo grafického obsahu. Podle The Verge Společnost tráví více času oslavami svého úsilí zbavit se konkrétních kousků vitriolu nebo násilí než systematickým přepracováním svých procesů moderování.

Kromě ověřování faktů

Bude to nějaká kombinace lidské práce a umělé inteligence, která nakonec uspěje v boji s počítačovou propagandou, ale jak k tomu dojde, prostě není jasné. Ověřování faktů vylepšené AI je pouze jednou cestou vpřed. Strojové učení a hluboké učení ve spolupráci s lidskými pracovníky může bojovat proti počítačové propagandě, dezinformacím a politickému obtěžování několika dalšími způsoby.

Jigsaw, technologický inkubátor společnosti Google, kde jsem působil jednoroční období jako výzkumný pracovník, navrhl a vytvořil nástroj založený na umělé inteligenci s názvem Perspective pro boj s online trollingem a nenávistnými projevy. Tento nástroj (na kterém jsem sám nepracoval) je API, které umožňuje vývojářům automaticky detekovat toxický jazyk.

Je kontroverzní, protože přináší nejen riziko falešných poplachů – nahlašování příspěvků, které ve skutečnosti neobsahují trolling nebo zneužívání – ale také moderuje projev. Podle Kabelové , nástroj byl trénován pomocí strojového učení, ale každý takový nástroj je trénován také pomocí vstupů od lidí, kteří mají své vlastní předsudky. Mohl by tedy nástroj vytvořený k odhalování rasistického nebo nenávistného jazyka selhat kvůli špatnému výcviku?

V roce 2016 Facebook spustil Deeptext, nástroj umělé inteligence podobný Google’s Perspective. Společnost říká pomohl smazat přes 60 000 nenávistných příspěvků týdně. Facebook však připustil, že nástroj stále spoléhal na velkou skupinu lidských moderátorů, aby se skutečně zbavil škodlivého obsahu. Twitter mezitím na konci roku 2017 konečně učinil kroky k pečlivější práci na zákazu podobně výhružných nebo násilných příspěvků. Ale i když začal tento problematický materiál omezovat – a také maže hordy účtů politických botů – Twitter neposkytl žádné jasné údaje o tom, jak účty odhaluje a maže. Moji výzkumní spolupracovníci a já i nadále nacházíme na Twitteru obrovské manipulativní botnety téměř každý měsíc.

Za horizontem

Není překvapením, že by technolog jako Zuckerberg navrhl technologickou opravu, ale umělá inteligence není sama o sobě dokonalá. Krátkozraké zaměření technologických lídrů na počítačová řešení odráží naivitu a aroganci, která způsobila, že Facebook a další uživatelé nechali uživatele zranitelné.

Zatím neexistují armády chytrých robotů s umělou inteligencí, kteří by během sporných voleb manipulovali s veřejným míněním. Bude tam v budoucnu? Možná. Ale je důležité si uvědomit, že ani armády chytrých politických robotů nebudou fungovat samy o sobě: K manipulaci a klamání budou stále vyžadovat lidský dohled. Nečekáme zde online verzi Terminátora. Osobnosti z oblasti počítačové vědy a umělé inteligence, včetně držitele Turingovy ceny Eda Feigenbauma a Geoffa Hintona, kmotra hlubokého učení, silně argumentovali proti obavám, že singularita – nezastavitelný věk chytrých strojů – přijde v brzké době. V průzkumu mezi členy Americké asociace umělé inteligence více než 90 % uvedlo, že superinteligence je za předvídatelným horizontem. Většina z těchto expertů se také shodla na tom, že až superchytré počítače dorazí, nebudou pro lidstvo hrozbou.

Stanfordští vědci pracují na sledování stavu AI navrhnout že naši vládci strojů v současné době stále nemohou projevovat zdravý rozum nebo obecnou inteligenci ani 5letého dítěte. Jak tedy tyto nástroje rozvrátí lidskou vládu nebo, řekněme, vyřeší mimořádně lidské sociální problémy, jako je politická polarizace a nedostatek kritického myšlení? The Wall Street Journal stručně řečeno v roce 2017 : Bez lidí je umělá inteligence stále docela hloupá.

Grady Booch, přední odborník na systémy umělé inteligence, je také skeptický k vzestupu superinteligentních nepoctivých strojů, ale z jiného důvodu. V přednášce na TEDu v roce 2016 řekl, že dělat si nyní starosti o vzestup superinteligence je v mnoha ohledech nebezpečným rozptýlením, protože vzestup samotné výpočetní techniky nám přináší řadu lidských a společenských problémů, kterým se nyní musíme věnovat.

Ještě důležitější, zdůraznil Booch, současné systémy umělé inteligence dokážou nejrůznější úžasné věci, od konverzace s lidmi v přirozeném jazyce až po rozpoznávání objektů – ale o těchto věcech rozhodují lidé a jsou zakódovány do lidských hodnot. Nejsou naprogramovaní, ale učí je, jak se chovat.

Z vědeckého hlediska tomu říkáme základní pravda, říká Booch, a zde je důležitý bod: při výrobě těchto strojů je proto učíme smyslu pro naše hodnoty. Za tímto účelem věřím umělé inteligenci stejně, ne-li více, jako dobře trénovanému člověku.

Dovedl bych Boochovu myšlenku ještě dále. Abychom se vypořádali s problémem počítačové propagandy, musíme se zaměřit na lidi za těmito nástroji.

Ano, neustále se vyvíjející technologie může automatizovat šíření dezinformací a trollingu. Může nechat pachatele pracovat anonymně a bez obav z odhalení. Ale tato sada nástrojů jako způsob politické komunikace je nakonec zaměřena na dosažení lidského cíle kontroly. Propaganda je lidský vynález a je stará jako společnost. Jak mi jednou řekl odborník na robotiku, neměli bychom se bát strojů, které jsou chytré jako lidé, stejně jako lidí, kteří nejsou chytří ohledně toho, jak stroje staví.

Výňatek z The Reality Game: How the Next Wave of Technology Will Break the Truth od Samuela Woolleyho. Copyright 2020. Dostupné z PublicAffairs, otisk Hachette Book Group, Inc.

skrýt