Rok se deepfakes stal mainstreamem

paní Tech

V roce 2018 Sam Cole, reportér společnosti Motherboard, objevil nový a znepokojivý kout internetu. Uživatel Redditu jménem deepfakes zveřejňoval nekonsensuální falešná porno videa pomocí algoritmu AI, aby vyměnil tváře celebrit za skutečné porno. Cole spustil poplach na jev, právě když technologie měla explodovat. O rok později se deepfake porno rozšířilo daleko za Reddit, a to snadno přístupné aplikace které by mohly svléknout šaty z každé fotografované ženy.

Od té doby mají deepfakes špatný rap, a je to tak správně. The naprostá většina z nich se stále používá pro falešnou pornografii . Byla to investigativní novinářka těžce obtěžován a dočasně umlčen taková činnost a v poslední době básnířka a prozaička byl vyděšený a zahanbený. Existuje také riziko, že politické deepfakes budou generovat přesvědčivé falešné zprávy, které by mohly způsobit zmatek v nestabilním politickém prostředí.

Ale jak se algoritmy pro manipulaci a syntézu médií staly silnějšími, daly také vzniknout pozitivním aplikacím – a také některým, které jsou vtipné nebo všední. Zde je shrnutí některých našich oblíbených v hrubém chronologickém pořadí a proč si myslíme, že jsou znamením toho, co přijde.

Stínění oznamovatelů

VAŠE MÉDIA

V červnu, Vítejte v Chechyně , investigativní film o pronásledování LGBTQ jedinců v Ruské republice, se stal první dokument využívající deepfakes chránit identitu svých subjektů. Aktivisté bojující proti pronásledování, kteří sloužili jako hlavní postavy příběhu, žili v úkrytu, aby nebyli mučeni nebo zabiti. Po prozkoumání mnoha metod, jak jejich identitu utajit, se režisér David France rozhodl poskytnout jim hluboce falešné obálky. Požádal ostatní LGBTQ aktivisty z celého světa, aby propůjčili své tváře, které pak byly naroubovány na tváře lidí v jeho filmu. Tato technika umožnila Francii zachovat integritu výrazů obličeje svých subjektů, a tím i jejich bolest, strach a lidskost. Celkem film chránil 23 jednotlivců a byl průkopníkem nové formy ochrany oznamovatelů.

Revizionistická historie

PANETTA A BORGUNSKO

V červenci dva výzkumníci z MIT, Francesca Panetta a Halsey Burgund, vydala projekt vytvořit alternativní historii přistání Apolla na Měsíci v roce 1969. Volala V případě měsíční katastrofy používá projev, který by prezident Richard Nixon pronesl, kdyby významná událost neproběhla podle plánu. Výzkumníci se spojili se dvěma samostatnými společnostmi pro deepfake audio a video a najali herce, aby poskytl základní výkon. Potom prošli jeho hlasem a obličejem přes dva typy softwaru a spojili je do finálního hluboce falešného Nixona.

Zatímco tento projekt ukazuje, jak by deepfakes mohly vytvořit mocné alternativní historie, jiný naznačuje, jak by deepfakes mohly oživit skutečnou historii. V únoru časopis Time znovu vytvořené Pochod Martina Luthera Kinga Jr. ve Washingtonu za virtuální realitu, aby diváky vtáhl do děje. Projekt nepoužil technologii deepfake, ale později čínský technologický gigant Tencent citoval to v bílé knize o svých plánech pro umělou inteligenci a uvádí, že deepfakes by mohly být v budoucnu použity pro podobné účely.

memy

MS TECH | NEURIPS (TRAINING SET); HAO (Zdvořilost)

Na konci léta se memersféra dostala do rukou jednoduše vyrobitelných deepfakes a odhalil výsledky do digitálního vesmíru. Zejména jeden virový mem, nazvaný Baka Mitai (obrázek výše), rychle vzrostl, když se lidé naučili používat tuto technologii k vytváření vlastních verzí. Specifický algoritmus pohánějící šílenství pochází výzkumný dokument z roku 2019 který uživateli umožňuje animovat fotografii tváře jedné osoby videem někoho jiného. Efekt není nijak vysoce kvalitní podle fantazie, ale rozhodně přináší kvalitní zábavu. Tento jev není zcela překvapivý; hrát a parodovat byly hnací silou v popularizaci deepfakes a dalších nástrojů mediální manipulace. To je důvod, proč někteří odborníci zdůrazňují potřebu mantinelů aby se satira nezměnila ve zneužití .

Sportovní reklamy

Nabitý program ztěžuje, aby se celebrity sportovní hvězdy dostaly do stejné místnosti v těch nejlepších časech. Uprostřed uzamčení je to nemožné. Takže když potřebujete natočit reklamu v LA s lidmi v karanténních bublinách po celé zemi, jedinou možností je ji předstírat. V srpnu streamovací web Hulu spustil reklamu na podporu návratu sportu do svých služeb, v hlavní roli hráč NBA Damian Lillard, hráčka WNBA Skylar Diggins-Smith a kanadský hokejista Sidney Crosby. Vidíme, jak tyto hvězdy vzdávají kváskového pečení a vracejí se ke svému sportu, s basketbalem a hokejkou. Až na to, že to neděláme: tváře těchto hvězd byly superponovány na dvojníky těla pomocí technologie deepfake. Algoritmus byl natrénován na záběrech hráčů zachycených přes Zoom. Počítačové triky se k předstírání takových věcí používají už léta, ale díky deepfake je to snazší a levnější než kdy jindy, a tento rok vzdáleného všechno dodalo této technologii impuls. Hulu nebyl jediný. Ostatní inzerenti, včetně ESPN , experimentoval také s deepfakes.

Politické kampaně

V září, během příprav na prezidentské volby v USA, zveřejnila nestranická advokátní skupina RepresentUs pár hluboce falešných reklam . Vystupovaly v falešných verzích ruského prezidenta Vladimira Putina a severokorejského vůdce Kim Čong-una, kteří vyjadřovali stejnou zprávu: že ani jeden z nich nemusí zasahovat do amerických voleb, protože Amerika by sama zničila svou demokracii. Toto nebylo první použití deepfakes během politické kampaně. V únoru indický politik Manoj Tiwari použil deepfakes ve videu kampaně aby to vypadalo, jako by mluvil haryanvi, hindský dialekt, kterým mluví jeho cíloví voliči. Ale RepresentUs pozoruhodně obrátil scénář na typický příběh o politických deepfakes. Zatímco odborníci se často obávají schopnosti této technologie rozsévat zmatek a narušovat volby, skupina se snažila udělat pravý opak: zvýšit povědomí o potlačování voličů, aby ochránila volební práva a zvýšila volební účast.

TV pořady

Pokud vám hluboké falešné reklamy a jednorázové kaskadérské kousky začínají připadat povědomé, věřte jejich tvůrcům South Park dohnat to do extrémů. V říjnu Trey Parker a Matt Stone debutovali svým novým výtvorem, Drzá spravedlnost , první deepfake televizní pořad . Týdenní satirický pořad se točí kolem postavy Sassy Justice, místní zpravodajky s falešnou Trumpovou tváří. Sassy zpovídá hluboce předstírané postavy, jako je Jared Kushner (s Kushnerovou tváří překrytou dítětem) a Al Gore. S Drzá spravedlnost , deepfakes přesáhly marketingový trik nebo zlomyslný podvod, aby zasáhly kulturní mainstream. Nejen, že se k vytvoření postav používá technologie, ale je předmětem samotné satiry. V první epizodě Sassy Trump Justice, která hraje advokátku spotřebitelů, zkoumá pravdu za deepfake zprávami.

skrýt