Pravý nebo falešný? Umělá inteligence velmi ztěžuje poznání

Titulky zpráv nemusí být jedinými věcmi, které jsou v budoucnu falešné.

Výkonné techniky strojového učení (viz Temné tajemství v srdci AI ) stále více usnadňují manipulaci nebo generování realistického videa a zvuku a zosobnění kohokoli chcete s úžasnou přesností.

Aplikace pro chytré telefony tzv FaceApp , který nedávno vydala společnost se sídlem v Rusku, dokáže automaticky upravit něčí obličej tak, aby přidal úsměv, přidal nebo odečetl roky nebo vyměnil pohlaví. Aplikace může také aplikovat zkrášlující efekty, mezi které patří vyhlazení vrásek a co je kontroverznější, zesvětlení pleti.

A minulý týden volala společnost Australský pták , který vznikl z University of Montreal, předvedl technologii, kterou lze podle ní použít k napodobování hlasu jiné osoby. Společnost zveřejnila ukázkové klipy Baracka Obamy, Donalda Trumpa a Hillary Clintonové, kteří technologii podporují.

To jsou jen dva příklady toho, jak lze ty nejvýkonnější algoritmy umělé inteligence použít pro generování obsahu namísto pouhé analýzy dat.

Tento trend také pohání výkonný grafický hardware a software, stejně jako nové technologie pro zachycování videa. Minulý rok vědci ze Stanfordské univerzity předvedli program výměny obličejů tzv Face2Face . Tento systém dokáže manipulovat se záznamem videa tak, aby výrazy obličeje osoby odpovídaly výrazu někoho sledovaného pomocí kamery s hloubkovým snímáním. Výsledek je často až děsivě realistický.

Schopnost tak realisticky manipulovat s hlasy a tvářemi by mohla vyvolat řadu problémů, jak přiznávají tvůrci Lyrebirdu.

Hlasové nahrávky jsou v současné době v našich společnostech a zejména v jurisdikcích mnoha zemí považovány za silné důkazy, uvádí se v etickém prohlášení zveřejněném na webových stránkách společnosti. Naše technologie zpochybňuje platnost takových důkazů, protože umožňuje snadnou manipulaci se zvukovými nahrávkami. To by mohlo mít nebezpečné následky.

FaceApp i Lyrebird využívají k umožnění těchto triků hluboké generativní konvoluční sítě. To znamená, že společnost používá techniku, která se v posledních letech objevila jako způsob, jak přimět algoritmy, aby šly nad rámec pouhého učení se klasifikovat věci a vytvářet vlastní věrohodná data.

Stejně jako mnoho dnešních úkolů umělé inteligence to zahrnuje použití velmi rozsáhlých nebo hlubokých neuronových sítí. Takové sítě jsou normálně napájeny tréninkovými daty a laděny tak, aby odpovídaly požadovaným způsobem na nový vstup. Například je lze natrénovat, aby rozpoznávali tváře nebo předměty na snímcích s úžasnou přesností.

Ale stejné sítě pak mohou být vytvořeny tak, aby generovaly vlastní data na základě toho, co bylo možné internalizovat o souboru dat, na kterém byli trénováni.

Takovou síť je možné natrénovat vytvářet obrázky od začátku, které vypadají skoro jako skutečné. V budoucnu může být při použití stejných technik mnohem snazší manipulovat s videem. V určitém okamžiku je pravděpodobné, že generování celých videí pomocí neuronových sítí bude možné, říká Alexandre de Brebisson , spoluzakladatel Lyrebird. Je to náročnější, protože ve vysokorozměrném prostoru představujícím videa existuje velká variabilita a současné modely pro něj stále nejsou dokonalé.

Vzhledem k technologiím, které se nyní objevují, může být stále důležitější umět odhalit falešné video a zvuk.

Justus Thies , doktorand na Friedrich Alexander University v Německu a jeden z výzkumníků za Face2Face, aplikací pro výměnu obličejů v reálném čase, říká, že zahájil projekt zaměřený na odhalování manipulace s videem. Průběžné výsledky vypadají slibně, říká.

skrýt