Největší hrozbou deepfakes nejsou samotné deepfakes

Obraz Hitlera pronášejícího projev s obličejem nahrazeným otazníkem. paní Tech

Byl konec roku 2018 a obyvatelé Gabonu neviděli svého prezidenta Aliho Bonga na veřejnosti celé měsíce. Někteří začali mít podezření, že je nemocný, nebo dokonce mrtvý, a vláda to zakrývala. Aby zastavila spekulace, vláda oznámila, že Bongo utrpěl mrtvici, ale zůstal v dobrém zdraví. Brzy poté, to zveřejnila video přednesl svůj obvyklý novoroční projev.

Spíše než zmírnění napětí však video dělalo pravý opak. Jak odhalila organizace pro digitální práva Internet bez hranic, mnoho lidí přemýšlí Bongo na záběrech vzhlédl , okamžitě pojal podezření, že jde o deepfake – kus média zfalšovaného nebo pozměněného pomocí AI. Víra podnítila jejich podezření, že vláda něco skrývá. O týden později armáda zahájila neúspěšný puč a jako motivaci uvedla video.

Následná forenzní analýza nikdy nenašla na videu nic pozměněného nebo zmanipulovaného. Na tom nezáleželo. Pouhá představa deepfakes stačila k urychlení rozuzlení už tak prekérní situace.

Před prezidentskými volbami v USA v roce 2020 vedla stále přesvědčivější technologie deepfake k obavám, jak by taková falešná média mohla ovlivnit politické mínění. Ale a nová zpráva z Deeptrace Labs, společnosti zabývající se kybernetickou bezpečností zaměřenou na odhalování tohoto podvodu, nenašla žádné známé případy, kdy by byly deepfaky skutečně použity v dezinformačních kampaních. Co mělo silnější účinek, je vědomí, že oni mohl být použit tímto způsobem.

Deepfakes skutečně představují riziko pro politiku, pokud jde o falešná média, která se jeví jako skutečná, ale právě teď je hmatatelnější hrozbou, jak lze myšlenku deepfakes použít, aby se skutečné jevilo jako falešné, říká Henry Ajder, jeden z autorů zpráva. Hype a spíše senzační zpravodajství spekulující o politickém dopadu deepfakes zastínily skutečné případy, kdy deepfakes dopad měly.

Dokumentace již není důkazem

Aktivisté za lidská práva a odborníci na dezinformace bijí na poplach před těmito samostatnými, ale vzájemně provázanými hrozbami od té doby, co se na scéně objevily deepfakes. V posledních dvou letech se americké technologické společnosti a tvůrci politik soustředili téměř výhradně na první problém, který Ajder zmiňuje: snadnost, s jakou tato technologie umožňuje, aby falešné věci vypadaly jako skutečné. Ale to druhé trápí odborníky více. Zatímco bariéry pro vytváření deepfakes mohou rychle klesat, zpochybnění pravdivosti něčeho nevyžaduje vůbec žádnou technologii.

Dává to mocným další zbraň: říkat ‚Je to hluboký fake‘ o čemkoli, co se lidé, kteří jsou bez moci, snaží použít k tomu, aby ukázali korupci.

Od samého začátku to byla moje největší starost v tomto prostoru, říká Aviv Ovadya, odborník na dezinformace, který nyní vede neziskový projekt Thoughtful Technology Project.

Podkopání důvěry v média může mít hluboké důsledky, zejména v křehkém politickém prostředí. Sam Gregory, programový ředitel neziskové organizace Witness, která pomáhá lidem dokumentovat porušování lidských práv, nabízí příklad. V Brazílii, která byla v minulosti vystavena policejnímu násilí, se nyní občané a aktivisté obávají, že jakékoli video, které natočí policista zabíjející civilistu, již nebude dostatečným důvodem pro vyšetřování. Tento strach, že skutečné důkazy mohou být věrohodně odmítnuty jako falešné, říká Gregory, se stal opakujícím se tématem workshopů, které pořádá po celém světě.

Je to evoluce tvrzení, že něco je ‚falešné zprávy‘, říká. Dává to mocným další zbraň: říkat ‚Je to hluboký fake‘ o čemkoli, co se lidé, kteří jsou bez moci, snaží použít k tomu, aby ukázali korupci, aby ukázali porušování lidských práv.

Dokázat, že skutečné je skutečné a falešné je falešné

Řešení těchto problémů bude vyžadovat pochopení obou typů hrozeb. Na vysoké úrovni chcete, aby bylo co nejjednodušší ukázat, že skutečná věc je skutečná a že falešná věc je falešná, říká Ovadya.

V posledních měsících se mnoho výzkumných skupin a technologických společností jako Facebook a Google zaměřilo na nástroje pro odhalování padělků, jako jsou databáze pro trénink detekčních algoritmů a vodoznaky které lze zabudovat do souborů digitálních fotografií, aby bylo možné odhalit, zda s nimi bylo neoprávněně manipulováno. Několik startupů také pracuje na způsobech, jak vybudovat důvěru prostřednictvím spotřebitelských aplikací, které ověřují fotografie a videa při jejich pořízení, aby vytvořily základ pro srovnání, pokud se verze obsahu rozšíří později. Gregory říká, že tech giganti by měli integrovat oba druhy kontrol přímo do svých platforem, aby byly široce dostupné.

Technologické společnosti ale také potřebují zaměstnávat lidské moderátory obsahu a mediální organizace musí vyškolit novináře a ověřovatele faktů jak na detekci, tak na ověřování. Hlášení na místě může potvrdit, zda video odráží realitu, a přidat důležitou vrstvu nuancí. Technické modely nedokážou interpretovat obsah falešného videa napříč kulturními kontexty ani si představit, jak by mohl být dále rekontextualizován, říká Britt Paris, expert na informační studia, který nedávno zveřejnil zprávu o deepfakes.

To, co [herci dezinformací] skutečně chtějí, není, abyste více zpochybňovali, ale abyste zpochybňovali všechno.

Paris jako příklad poukazuje na pozměněná videa Nancy Pelosi a Jima Acosty, která se za poslední rok stala virální. Oba byly spíše takzvané laciné padělky než hluboké padělky – jejich rychlost byla jednoduše zfalšována, aby diváky uvedla v omyl. Nebyl by žádný způsob, jak tyto padělky zachytit pomocí technických metod pro odchytávání deepfakes, říká Paris. Místo toho je museli novináři odhalit – což znamenalo, že lidé museli novinářům věřit.

Nakonec se všichni odborníci shodují, že veřejnost potřebuje větší mediální gramotnost. Ovadya říká, že je rozdíl mezi dokazováním, že skutečná věc je skutečná, a mezi tím, když široká veřejnost věří, že skutečná věc je. Říká, že lidé si musí být vědomi toho, že falšování obsahu a zpochybňování pravdivosti obsahu jsou taktiky, které lze použít k záměrnému zasévání zmatku.

Gregory však varuje před příliš velkým zatížením spotřebitelů zpráv. Výzkumníci, platformy a novináři by měli udělat co nejvíce práce, aby pomohli objasnit, co je skutečné a co je falešné, než se zprávy dostanou na veřejnost.

Konečným cílem, říká Ovadya, není vštípit celkový skepticismus, ale vybudovat sociální, vzdělávací a očkovací infrastrukturu pro neutralizaci dopadu deepfakes. Čemu bychom se měli snažit vyhnout? ptá se. Je cenné zpochybňovat důkazy. Ale to, co [herci dezinformací] skutečně chtějí, není, abyste více zpochybňovali, ale abyste zpochybňovali všechno.

Dodává: To je protiklad toho, co hledáme.

Chcete-li, aby bylo více takových příběhů doručeno přímo do vaší schránky, přihlaste se k odběru našeho zpravodaje o umělé inteligenci The Algorithm nominovaného Webby. Je to zdarma.

skrýt