Aplikace AI, která svléká ženy, ukazuje, jak deepfake škodí těm nejzranitelnějším

Obraz ženy s rozmazaným tělem Paní Tech/ Původní obrázek: Getty

Pozornost kolem deepfakes a syntetických médií v posledních měsících vzrostla. Ale zatímco se rozhovor primárně soustředil na její potenciální dopad na politiku, několik odborníků na lidská práva a technickou etiku varovalo, že byla přehlédnuta další potenciální újma: možná zničující důsledky pro ženy a další zranitelné skupiny obyvatel, na které se tato technologie zaměřuje, ale nemohou chránit se.

Nyní nejnovější deepfake experiment – ​​aplikace s názvem DeepNude, která svléká fotografie žen – rozehrává tyto noční můry. Poprvé nahlásil Vice , použila generativní adversariální sítě neboli GAN, aby vyměnila dámské oblečení za vysoce realistická nahá těla. Článek rychle vyvolal virální reakci a tvůrce aplikace ji zavřel.

Aplikace DeepNude dokazuje naše nejhorší obavy z jedinečného způsobu, jakým lze audiovizuální nástroje vyzbrojit proti ženám, říká Mutale Nkonde, členka Data & Society Research Institute, která doporučila návrh zákona představeného v Kongresu zástupkyní Yvette Clarke, který by vytvořil mechanismy pro oběti. takových zlomyslných deepfakes, aby hledali právní náhradu za poškození pověsti.

Aplikace byla zaměřena konkrétně na ženy. Vice zjistil, že software generoval pouze obrázky ženského těla, i když dostal obrázek muže. Anonymní tvůrce potvrdil, že algoritmus GAN trénoval pouze na nahých fotkách žen – v tomto případě jich bylo více než 10 000 – protože je bylo snazší najít online. Měl však také v úmyslu nakonec vytvořit mužskou verzi.

Ačkoli deepfakes nezobrazovaly skutečná těla žen – jsou zcela syntetizovány algoritmem – stále měly potenciál způsobit značné emocionální poškození a poškození pověsti. Obrázky by se daly snadno zaměnit se skutečnými věcmi a mohly by se použít jako pomsta nebo jako mocný nástroj k umlčování žen. Ve skutečnosti se to stalo dříve: a novinářka v Indii nechala si naroubovat obličej na porno video poté, co začala odhalovat vládní korupci. Okamžitě se to stalo virálním, vystavilo ji intenzivnímu obtěžování a výhrůžkám znásilnění a musela být na několik měsíců offline.

Deepfakes nejsou novou hrozbou; manipulovaná média byla na světě dávno před AI. Ale tato technologie urychlila a rozšířila stávající trendy, říká Sam Gregory, programový ředitel neziskové organizace Witness pro lidská práva. Algoritmy umožnily mnohem většímu počtu lidí vytvářet stále přesvědčivější falešná média. Vše, k čemu lidé v minulosti používali zmanipulovaná média, jako je útok na novináře, naznačování korupce nebo zamlžování důkazů, se tak stane stále běžnějším a nebezpečně obtížnějším odhalit.

Aplikace se neliší, říká. Sexuální zneužívání žen založené na image již jako problém existovalo. Nyní deepfakes přilévají olej do plamenů.

Ze stejné logiky se Nkonde obává, že ženy nebudou jedinými zranitelnými cíli deepfakes. Oběťmi se pravděpodobně stanou také menšiny, LGBTQ lidé a další skupiny, které jsou často vystaveny nejzávažnějšímu online obtěžování – i když možná různými způsoby. Během americké prezidentské kampaně v roce 2016 například ruští agenti používal falešné afroamerické persony a související snímky jako součást dezinformační kampaně na Facebooku ke zvýšení rasového napětí mezi Američany.

To byl nový způsob potlačování voličů, a to prostřednictvím zpronevěry identity lidí online, říká Nkonde. Technologie Deepfake by byla dalším přirozeným nástrojem pro zlomyslné aktéry vydávající se za lidi, jimiž nejsou, aby narušovali komunity a jinak způsobovali škodu.

Tak kam odsud půjdeme? Nkonde i Gregory v minulosti sdíleli podobná doporučení s MIT Technology Review: společnosti a výzkumníci, kteří vyrábějí nástroje pro deepfakes, musí také investovat do protiopatření a společnosti zabývající se sociálními médii a vyhledávacími společnostmi by měly tato protiopatření integrovat přímo do svých platforem. Nkonde také vyzývá regulátory, aby jednaly rychle. Pokud vláda nenajde způsob, jak ochránit práva spotřebitelů, aplikace, jako je tato, se budou množit, říká.

Technologie není neutrální, říká Gregory. Tato aplikace [DeepNude] nemá dvojí použití. Je to jednorázové použití pro škodlivý účel a je vytvořeno amorálně.

Musíme se skutečně zaměřit na etiku vytváření a sdílení generativních mediálních nástrojů, dodává. Měli bychom to opakovat.

skrýt