211service.com
Deepfake pracovníci Amazonu rozsévají zmatek na Twitteru. To není problém.
Ve skladišti Amazonu v Bessemeru v Alabamě je vystaven transparent vybízející pracovníky, aby hlasovali v pracovních volbách. AP
Zprávy: Před přelomovým hlasováním, které by mohlo vést k vytvoření vůbec prvního odborového svazu ve skladu Amazonu se sídlem v USA, se začaly objevovat nové účty na Twitteru vydávající se za zaměstnance Amazonu. Profily používaly hluboce falešné fotografie jako profilové obrázky a tweetovaly některé docela směšné, přehnané obhajoby pracovních postupů Amazonu. Nezdály se skutečné, ale přesto vedly ke zmatku mezi veřejností. Opravdu za nimi stál Amazon? Byla to nějaká strašná nová anti-unijní sociální mediální strategie? Odpověď je téměř jistě ne – ale použití deepfakes v tomto kontextu ukazuje na celkově více znepokojující trend.
Příběh ze zákulisí: Existuje důvod, proč se tyto nové hluboké falešné profily zdály známé. V roce 2018 začal Amazon velmi reálný program přesvědčit veřejnost, že se ke svým skladníkům chová dobře. V těchto skladech zřídila počítačové stanice a vytvořila účty na Twitteru pro malou skupinu zaměstnanců, známých jako Amazon FC Ambassadors, kteří mohli během placených hodin tweetovat o tom, jak milují svou práci. Plán selhal a vedl k vytvoření mnoha parodovat účty velvyslanců na Twitteru. Amazon krátce poté omezil program a mnoho původních skutečných účtů bylo pozastaveno nebo uzavřeno, říká Aric Toler, vedoucí školicích a výzkumných aktivit pro investigativní žurnalistiku Bellingcat.
Poslední: V pondělí se objevila nová várka účtů velvyslanců – nebo se to alespoň zdálo. Ale když lidé začali vyšetřovat, mnoho špičatý ven že někteří měli profilové obrázky s výmluvnými znaky hluboce falešných tváří, jako jsou pokřivené náušnice a rozmazané pozadí. Tehdy se věci zamotaly.
Lidé se rychle chytili myšlenky, že za novými hluboce falešnými účty stojí samotný Amazon v rámci kampaně proti odborům na sociálních sítích. Společnost později řekla Reportérka New York Times Karen Wiseová že to nebylo. Toler, který sledoval původní účty, věří, že Amazon mluví pravdu. Původní účty ambasadorů byly všechny registrovány pod e-mailovými adresami Amazon a zveřejněny pomocí Sprinklr. Nové deepfake účty, které byly mezitím pozastaveny, byly registrován pomocí Gmailu a zveřejněny prostřednictvím webové aplikace Twitter. Navíc obsah tweetů měl být zjevně vtipný. Tyto účty byly pravděpodobně jen další parodie vytvořené k zesměšnění Amazonu.
Záleží na tom? V tomto konkrétním případě asi ne. Je to samozřejmě docela neškodné, říká Toler. je to Amazon. Oni jsou v pohodě. Odhaluje však mnohem znepokojivější problém: že deepfake účty mohou být nasazeny koordinovaným způsobem na sociálních sítích nebo jinde pro mnohem zlověstnější účely. Nejškodlivější verzí by byli státní aktéři, varuje Toler.
Související příběh
Dvouletý boj za to, aby Amazon přestal prodávat rozpoznávání tváří policii Přesuny od Amazonu, Microsoftu a IBM z tohoto týdne znamenají pro výzkumníky a obhájce občanských práv významný milník v dlouhém a pokračujícím boji o rozpoznávání tváří při vymáhání práva.Ve skutečnosti již bylo několik významných případů, kdy byly hluboce falešné fotografie použity v škodlivých dezinformačních kampaních. V prosinci 2019 Facebook identifikoval a zlikvidoval síť přes 900 stránek, skupin a účtů , včetně některých s falešnými profilovými fotografiemi, spojenými s krajně pravicovým portálem Epoch Times, o kterém je známo, že se zapojuje do dezinformačních taktik. V říjnu 2020 byl falešný zpravodajský dokument distribuovaný mezi kruhy prezidenta Trumpa, který se stal základem mnoha konspiračních teorií kolem Huntera Bidena, také vytvořen falešným bezpečnostním analytikem. s falešným profilovým obrázkem .
Toler říká, že hluboké falešné tváře se staly trendem v jeho práci jako open-source vyšetřovatel podezřelých online aktivit, zejména od spuštění ThisPersonDoesNotExist.com, webové stránky, která při každém obnovení nabízí novou tvář vygenerovanou umělou inteligencí. Vždy existuje mentální kontrolní seznam, který procházíte, kdykoli něco najdete, říká. První otázka je ‚Je tento člověk skutečný nebo ne?‘ Což byla otázka, kterou jsme před pěti lety ve skutečnosti neměli.
Jak velká je to hrozba? V tuto chvíli, říká Toler, použití hluboce falešných tváří nemělo na jeho práci velký dopad. Stále je pro něj relativně snadné identifikovat, kdy je profilový obrázek hluboce falešný, stejně jako je tomu v případě, že je fotografie sériovým obrázkem. Nejobtížnější scénář je, když je obrázek skutečné osoby stažený ze soukromého účtu sociálních médií, který není indexován ve vyhledávačích obrázků.
Rostoucí povědomí o deepfakes také přimělo lidi, aby pečlivěji zkoumali média, která vidí, říká Toler, o čemž svědčí i to, jak rychle se lidé chytili falšování účtů na Amazonu.
Sam Gregory, programový ředitel lidskoprávní neziskové organizace Witness, ale říká, že by nás to nemělo ukolébat k falešnému pocitu bezpečí. Deepfakes se neustále zlepšují, říká: Myslím, že lidé mají trochu příliš velkou důvěru, že je vždy bude možné odhalit.
Hyper-uvědomění o deepfakes by také mohlo vést lidi k přestaňte věřit skutečným médiím , což by mohlo mít stejně hrozné důsledky, jako je podkopání dokumentace porušování lidských práv.
Co bychom měli dělat? Gregory nabádá uživatele sociálních sítí, aby se nefixovali na to, zda je obrázek hluboce falešný nebo ne. Často je to jen malá část skládačky, říká. Prozradí nespočívá v tom, že jste si obrázek nějak vyslechli. Jde o to, že se podíváte na účet a byl vytvořen před týdnem, nebo je to novinář, který tvrdí, že je novinář, ale nikdy nenapsal nic jiného, co byste mohli najít ve vyhledávání Google.
Tyto vyšetřovací taktiky jsou mnohem odolnější vůči pokroku v technologii deepfake. Tato rada platí i pro případ Amazonky. Toler nakonec zjistil, že jsou falešné, a to prostřednictvím kontroly e-mailů a podrobností tweetů účtů – nikoli zkoumáním profilových obrázků.