Memerové dělají deepfake a věci začínají být divné

Vpravo dole: to já. paní Tech | NeurIPS (tréninkový set); Hao (zdvořilost)

Grace Windheimová už o deepfake slyšela. Nikdy ji ale nenapadlo, jak si ho vyrobit. Byl to virální mem využívající technologii, která ji vedla k prozkoumání možnosti – a zjistila, že je to super snadné a zcela zdarma.

Během jednoho dne vytvořila výukový program YouTube krok za krokem provázet ostatní tímto procesem. Vytvořit jeden z těchto deepfakes a překrývajících zvuků není tak složité, jak si možná myslíte, říká ve videu zveřejněném 4. srpna. Od té doby bylo zhlédnuto více než 360 000krát.

Windheim je součástí nové skupiny online tvůrců, kteří si pohrávají s deepfakes, protože technologie je stále dostupnější a proniká do internetové kultury. Tento jev není překvapivý; nástroje manipulace s médii se často prosadily hrát a parodovat . Ale také vyvolává nové obavy ohledně jeho potenciálu ke zneužití.

Deepfakes již byly použity k obtěžování žen tím, že bez souhlasu zaměňovaly jejich tváře za porno videa. Učenci se také obávají o svou schopnost narušit volby. Zatímco deepfakes vytvořené pro memy jsou stále zjevně falešné a relativně neškodné, nemusí to tak zůstat dlouho.

Existuje tenká hranice mezi používáním deepfakes pro zábavu a memy a jejich používáním ke škodě, říká Windheim. V tomto tutoriálu říkám: ‚Takto uděláte tento konkrétní deepfake.‘ Ale děsivá věc na scénáři je, že jej lze použít k vytvoření jakéhokoli typu deepfake, který chcete.

Byl jsem blázen

Windheim, čerstvý absolvent vysoké školy, pracuje jako tvůrce obsahu ve startupu Kapwing se sídlem v San Franciscu. Společnost, která začala jako výrobce memů, nabízí bezplatnou sadu softwarových nástrojů pro úpravu videa založených na prohlížeči. V rámci své práce provozuje Windheim kanál YouTube a produkuje videa pro obsahový marketing, aby předvedla schopnosti produktů.

Začátkem srpna narazila v Google Trends na obzvláště virální hledaný výraz. Tři z pěti hlavních dotazů se týkaly deepfake memu Baka Mitai. Téměř nikdy nevidím dotaz, který přichází tak často, říká.

Meme, jak se ukázalo, byl založen na video synchronizace rtů youtubera na japonskou videoherní píseň s názvem Baka Mitai (překlad: I’ve Been a Fool). Různí uživatelé internetu použili toto video k vytvoření mizerných deepfakes každého z nich Barack Obama na Thanos zpívat píseň. Navzdory své popularitě však Windheim zjistil, že o tom, jak ji vlastně vyrobit, bylo napsáno málo. Viděla příležitost.

Konkrétní deepfake algoritmus, který lidé používali, pochází z a výzkumná práce z roku 2019 prezentováno na NeurIPS, největší každoroční výzkumné konferenci AI. Na rozdíl od jiných, složitějších algoritmů umožňuje uživateli pořídit jakékoli video obličeje osoby a použít jej k animaci fotografie obličeje někoho jiného pomocí pouhých několika řádků kódu.

Windheim našel algoritmus s otevřeným zdrojovým kódem ve výukovém programu YouTube a přenesl jej do notebooku Google Colab, bezplatné služby pro spouštění kódu v cloudu. Po několika pokusech, s pomocí dovedností, které nasbírala při příležitostném kurzu kódování na vysoké škole, dostala scénář, aby vyplivla hluboce falešné video. Poté skladbu synchronizovala s videem pomocí nástrojů Kapwing a vytvořila novou verzi memu.

Od té doby, co zveřejnila její tutoriál na kanálu YouTube společnosti Kapwing vytvořila řada dalších youtuberů výukové programy pomocí stejného algoritmu kopírování a vkládání. Rozdíl: mnoho z nich učí své publikum, jak vyrábět žádný druh deepfake meme. Člověk dokonce učí lidi jak je udělat na mobilu .

Tyto memy se nyní objevují všude na sociálních sítích: na Twitteru, Instagramu a zejména TikTok. Krátká videa platformy, která často obsahují svižnou choreografii a chytlavou hudbu, jsou zvláště vhodná k tomu, aby byla hluboce předstírána, aby vyvolala fascinující efekt. Hashtag #deepfake v aplikaci již nasbíral více než 120 milionů zobrazení.

@lemonjezus

@helltaker03

Ve videích vytvořených pomocí tohoto algoritmu jsou obličeje nápadné, díky čemuž je jeho ruční práce snadno rozpoznatelná; to je součást deepfakes humoru. Tyto nedokonalosti – a surrealistická kvalita memů – zabrání jejich záměně za realitu. V současnosti jsou hyperrealističtější deepfakes mnohem technicky náročnější a jejich vytvoření je výpočetně nákladnější.

Ale s rychlostí, kterou technologie postupuje, jsou za rohem pravděpodobně snadno proveditelné deepfakes, které jsou téměř k nerozeznání od reality. Některé společnosti jako čínský technologický gigant Tencent, vlastník WeChat, veřejně oznámily svůj záměr investovat více zdrojů do pokroku. nejmodernější pro komerční aplikace .

Deepfakes nejsou ve své podstatě špatné. Tuto technologii již použili umělci, pedagogové a další jako nový výkonný nástroj pro kreativní vyjádření. V únoru například časopis Time použil deepfakes, aby znovu vytvořil zážitek Martina Luthera Kinga Jr. přednesl svůj projev I Have a Dream ve virtuální realitě. Regulátoři nakonec musí definovat, jaké je vhodné použití a co by mohlo vést k poškození.

Prozatím se Windheim při uskutečnění tohoto hovoru spoléhá na svůj vlastní úsudek. Než zveřejnila své video, přečetla si důsledky deepfakes a mluvila se svými kolegy. Nikdy nemáme v úmyslu naše produkty pomáhat uživatelům šířit dezinformace, říká, takže jsme se jen chtěli prověřit.

Nakonec se rozhodli pro některá základní pravidla: své tutoriály zaměří na vytváření konkrétních memů, nikdy na vytváření deepfakes mimo tento kontext. Dokud jde o zábavu a v rámci memové kultury, říká, jsme v čisté zóně.

skrýt