211service.com
Deepfakes vyvolal v Kongresu paniku. To je to, co je potřeba udělat.
Foto ilustrace prezidenta Trumpa, jedna polovina černobílá a druhá polovina velmi sytá paní Tech; Původní fotografie WIN MCNAMEE; ZÍSKEJTE OBRÁZKY
Nedávné rychlé šíření upraveného videa Nancy Pelosiové vyděsilo zákonodárce ve Washingtonu. Video – upravené tak, aby vypadala opilá – je jen jedním z mnoha příkladů, kdy se zmanipulovaná média v posledním roce dostala do hlavního proudu veřejného diskurzu. V lednu jinak upravené video zaměřené na prezidenta Donalda Trumpa skončilo odvysílání v televizi v Seattlu. Tento týden bylo na Instagram nahráno video Marka Zuckerberga vygenerované umělou inteligencí. (Facebook slíbil, že to nestáhne.)
S blížícími se americkými volbami v roce 2020 se americký Kongres stále více obává, že rychlá a snadná schopnost falšovat média by mohla způsobit, že volební kampaně budou zranitelné vůči cílení ze strany zahraničních agentů a ohrozí důvěru voličů.
V reakci na to zítra uspořádá Sněmovna reprezentantů své první vyhrazené slyšení o deepfakes, třídě syntetických médií generovaných umělou inteligencí. Zástupkyně Yvette Clarke současně předloží návrh zákona na stejné téma. Nová výzkumná zpráva zveřejněná neziskovou organizací tento týden také zdůrazňuje strategii, jak se vyrovnat s tím, když se množí deepfakes a další zfalšovaná média.
Není to poprvé, co se američtí politici snaží v této věci podniknout kroky. V prosinci 2018 představil senátor Ben Sasse a jiný účet snaží se zakázat škodlivé deepfakes. Senátor Marco Rubio také opakovaně zazněl poplach na technologii v průběhu let. Ale je to poprvé, co jsme viděli takové soustředěné úsilí amerických zákonodárců.
Hluboce falešný účet
Návrh zákona, který je výsledkem několikaměsíčních diskusí s informatiky, odborníky na dezinformace a zastánci lidských práv, bude obsahovat tři ustanovení. První by vyžadoval společnosti a výzkumníky, kteří vytvářejí nástroje, které lze použít k vytváření hlubokých fakeů, k automatickému přidávání vodoznaků k podvrženým výtvorům.
Druhá by vyžadovala, aby společnosti sociálních médií zabudovaly lepší detekci manipulace přímo do svých platforem. A konečně, třetí ustanovení by vytvořilo sankce, jako jsou pokuty nebo dokonce vězení, k potrestání pachatelů za vytváření zlomyslných deepfastů, které poškozují jednotlivce nebo ohrožují národní bezpečnost. Zejména by se pokusil zavést nový mechanismus právního postihu, pokud je pověst lidí poškozena syntetickými médii.
Tento problém se netýká jen politiků, říká Mutale Nkonde, kolega z Data & Society Research Institute a poradce pro návrh zákona. Deepfake videa jsou mnohem pravděpodobněji nasazena proti ženám, menšinám, lidem z LGBT komunity, chudým lidem. A tito lidé nebudou mít prostředky na to, aby se bránili proti reputačním rizikům.
Cílem zavedení zákona není schválit jej Kongresem tak, jak je, říká Nkonde. Místo toho má podnítit jemnější konverzaci o tom, jak se s problémem vypořádat v zákoně, a to navržením konkrétních doporučení, která lze kritizovat a upřesnit. To, co se skutečně snažíme udělat, je vložit do záznamu kongresu myšlenku, že audiovizuální manipulace je nepřijatelná, říká.
Současný stav deepfakes
Shodou okolností lidskoprávní nezisková organizace Witness vydala a nová výzkumná zpráva tento týden dokumentuje aktuální stav technologie deepfake. Deepfakes v současnosti nepatří mezi mainstream: jejich produkce stále vyžaduje specializované dovednosti a často zanechávají ve videu artefakty, jako jsou závady a pixelace, díky nimž je padělek zjevný.
Technologie ale pokročila rychlým tempem a množství dat potřebných k padělání videa dramaticky kleslo. Před dvěma týdny, Samsung prokázáno že bylo možné vytvořit celé video z jediné fotografie; tento týden univerzitní a průmysloví výzkumníci předvedl nový nástroj která uživatelům umožňuje upravovat něčí slova zadáním toho, co chtějí, aby předmět řekl.
Je tedy jen otázkou času, kdy se deepfakes rozšíří, říká Sam Gregory, programový ředitel Witness. Mnoho způsobů, o kterých by lidé uvažovali o použití deepfakes – k útokům na novináře, naznačování korupce ze strany politiků, k manipulaci s důkazy – jsou zjevně evolucí existujících problémů, takže bychom měli očekávat, že lidé vyzkouší nejnovější způsoby, jak je efektivně dělat, říká. .
Zpráva nastiňuje strategii, jak se připravit na takovou blížící se budoucnost. Mnoho doporučení a mnoho podpůrných důkazů je také v souladu s návrhy, které se objeví ve sněmovním návrhu zákona.
Zpráva zjistila, že současné investice výzkumných pracovníků a technologických společností do generování deepfake daleko převažují nad investicemi do detekce deepfake. Adobe například vytvořilo mnoho nástrojů, které usnadňují úpravy médií, včetně nedávné funkce pro odstraňování objektů z videí; neposkytla jim však fólii.
Výsledkem je nesoulad mezi skutečnou povahou mediální manipulace a dostupnými nástroji pro boj s ní. Pokud vytváříte nástroj pro syntézu nebo padělání, který je bezproblémový pro lidské oko nebo lidské ucho, měli byste vytvářet nástroje, které jsou speciálně navrženy pro detekci tohoto padělku, říká Gregory. Otázkou je, jak přimět výrobce nástrojů k nápravě této nerovnováhy.
Stejně jako sněmovní návrh, zpráva také doporučuje, aby společnosti zabývající se sociálními médii a vyhledávacími společnostmi lépe začlenily možnosti detekce manipulace do svých platforem. Facebook by mohl investovat do detekce odstraňování objektů, například, aby čelil funkci Adobe a dalším nepoctivým editačním technikám.
Poté by měl jasně označit videa a obrázky v informačních kanálech uživatelů, aby bylo možné upozornit, že byly upraveny způsobem neviditelným pro lidské oko. Google by jako další příklad měl investovat do zpětného vyhledávání videí, aby pomohl novinářům a divákům rychle určit původní zdroj klipu.
Mimo Kongres
Navzdory těsnému souladu zprávy s návrhem zákona Gregory varuje, že americký Kongres by si měl v brzké době dvakrát rozmyslet, zda přijme zákony o deepfake. Je brzy regulovat deepfakes a syntetická média, říká, i když dělá výjimky pro velmi úzké aplikace, jako je jejich použití pro vytváření nekonsensuálních sexuálních snímků. Nemyslím si, že máme dost dobrý přehled o tom, jak budou společnosti a platformy zvládat deepfakes a syntetická média, aby zavedly předpisy, dodává.
Gregory se obává, že současná diskuse ve Washingtonu by mohla vést k rozhodnutím, která budou mít později negativní dopady. Americké předpisy by mohly například výrazně ovlivnit to, co dělají jiné země. A je snadné vidět, jak by v zemích s autoritářštějšími vládami mohly být předpisy na ochranu politiků použity k ospravedlnění odstranění jakéhokoli obsahu, který je kontroverzní nebo kritizuje politické vůdce.
Nkonde souhlasí s tím, že Kongres by měl zaujmout uvážený a promyšlený přístup k problému a zvážit nejen jeho dopad na politiku. Opravdu doufám, že budou mluvit [během slyšení] o tom, kolik lidí tato technologie ovlivňuje, říká, a o psychologickém dopadu neschopnosti věřit tomu, co můžete vidět a slyšet.