GANfather: Muž, který dal strojům dar představivosti

Christie There Klok

Jedné noci v roce 2014 šel Ian Goodfellow popíjet na oslavu s kolegou doktorandkou, který právě promoval. V Les 3 Brasseurs (The Three Brewers), oblíbeném montrealském napajedlu, ho někteří přátelé požádali o pomoc s ožehavým projektem, na kterém pracovali: s počítačem, který dokáže sám vytvářet fotografie.

Výzkumníci již používali neuronové sítě, algoritmy volně modelované na síti neuronů v lidském mozku, jako generativní modely k vytváření vlastních věrohodných nových dat. Výsledky však často nebyly příliš dobré: obrázky počítačem generovaného obličeje byly rozmazané nebo měly chyby, jako jsou chybějící uši. Plán, který Goodfellowovi přátelé navrhovali, byl použít komplexní statistickou analýzu prvků, které tvoří fotografii, aby pomohly strojům přijít s obrázky samy. To by vyžadovalo obrovské množství drcení čísel a Goodfellow jim řekl, že to prostě nebude fungovat.

Tento příběh byl součástí našeho vydání z března 2018

• Viz zbytek čísla
• předplatit

Ale když nad tímto problémem u piva přemýšlel, dostal nápad. Co kdybyste proti sobě postavili dvě neuronové sítě? Jeho přátelé byli skeptičtí, takže jakmile se dostal domů, kde už jeho přítelkyně tvrdě spala, rozhodl se to zkusit. Goodfellow zakódoval do časných ranních hodin a pak otestoval svůj software. Fungovalo to napoprvé.

To, co té noci vynalezl, se nyní nazývá GAN neboli generativní adversariální síť. Tato technika vyvolala obrovské vzrušení v oblasti strojového učení a proměnila jejího tvůrce v celebritu AI.

Christie There Klok

V posledních několika letech dosáhli výzkumníci umělé inteligence působivého pokroku pomocí techniky zvané hluboké učení. Dodejte systému hlubokého učení dostatek obrázků a ten se naučí, řekněme, rozpoznat chodce, který se chystá přejít silnici. Tento přístup umožnil věci, jako jsou samořídící auta a konverzační technologie, která pohání Alexu, Siri a další virtuální asistenty.

Ale zatímco hloubkové učení AI se může naučit rozpoznávat věci, nebyly dobré v jejich vytváření. Cílem GAN je dát strojům něco podobného představivosti.

V budoucnu budou počítače mnohem lepší v hodování na nezpracovaných datech a zjišťování toho, co se z nich potřebují naučit.

Neumožnilo by jim to pouze kreslit hezké obrázky nebo skládat hudbu; díky tomu by se méně spoléhali na lidi, kteří by je poučili o světě a o tom, jak funguje. Programátoři umělé inteligence dnes často potřebují stroji přesně sdělit, co je v trénovacích datech, které jsou napájeny – které z milionu obrázků obsahují chodce přecházejícího silnici a které ne. To je nejen nákladné a pracné; omezuje, jak dobře se systém vypořádá i s nepatrnými odchylkami od toho, na co byl trénován. V budoucnu budou počítače mnohem lepší v hodování na nezpracovaných datech a vypracování toho, co se z nich potřebují naučit, aniž by jim to někdo říkal.

To bude znamenat velký skok vpřed v tom, co je v AI známé jako učení bez dozoru. Samořídící auto by se mohlo naučit o mnoha různých podmínkách na silnici, aniž by opustilo garáž. Robot dokáže předvídat překážky, na které může narazit v rušném skladišti, aniž by ho musel obcházet.

To bude znamenat velký skok vpřed v tom, co je v AI známé jako učení bez dozoru.

Naše schopnost představit si a uvažovat o mnoha různých scénářích je součástí toho, co z nás dělá lidi. A když se budoucí historici technologií ohlédnou zpět, pravděpodobně uvidí GAN jako velký krok k vytvoření strojů s vědomím podobným člověku. Yann LeCun, hlavní vědec Facebooku na AI, označil GANs za nejlepší nápad v hlubokém učení za posledních 20 let. Další představitel AI, Andrew Ng, bývalý hlavní vědec z čínského Baidu, říká, že GAN představují významný a zásadní pokrok, který inspiroval rostoucí globální komunitu výzkumníků.

GANfather, část II: AI bojový klub

Goodfellow je nyní vědeckým pracovníkem v týmu Google Brain v ústředí společnosti v Mountain View v Kalifornii. Když jsem ho tam nedávno potkal, stále vypadal překvapený svým statusem superstar a nazval to trochu surrealistickým. Možná neméně překvapivé je, že po svém objevu nyní tráví většinu času prací proti těm, kteří jej chtějí využít ke zlým účelům.

Kouzlo GAN spočívá v rivalitě mezi dvěma neuronovými sítěmi. Napodobuje to tam a zpět mezi padělatelem obrázků a uměleckým detektivem, kteří se opakovaně snaží přelstít jeden druhého. Obě sítě jsou trénovány na stejném datovém souboru. První z nich, známý jako generátor, je pověřen vytvářením umělých výstupů, jako jsou fotografie nebo rukopis, které jsou co nejrealističtější. Druhý, známý jako diskriminátor, je porovnává s pravými obrázky z původního souboru dat a snaží se určit, které jsou skutečné a které jsou falešné. Na základě těchto výsledků generátor upraví své parametry pro vytváření nových obrázků. A tak to jde, dokud diskriminátor už nedokáže rozeznat, co je pravé a co falešné.

GAN vyškolený na fotografiích skutečných celebrit přišel s vlastní sadou imaginárních hvězd. Ve většině případů vypadaly padělky docela realisticky. Nvidia

V jednom široce medializovaném příkladu z minulého roku výzkumníci z Nvidie, čipové společnosti masivně investující do AI, vycvičili GAN, aby generoval obrázky imaginárních celebrit studiem skutečných. Ne všechny falešné hvězdy, které vytvořil, byly dokonalé, ale některé byly působivě realistické. Na rozdíl od jiných přístupů strojového učení, které vyžadují desítky tisíc tréninkových obrázků, GAN se mohou stát zdatnými s několika stovkami.

Související příběh

Související příběh

Tato síla představivosti je stále omezená. Jakmile je GAN natrénován na mnoha psích fotografiích, může vytvořit přesvědčivý falešný obrázek psa, který má, řekněme, jiný vzor skvrn; ale nemůže si představit úplně nové zvíře. Velký vliv na výsledky má také kvalita původních tréninkových dat. V jednom názorném příkladu začala GAN produkovat obrázky koček s náhodnými písmeny integrovanými do obrázků. Protože tréninková data obsahovala kočičí memy z internetu, stroj se sám naučil, že slova jsou součástí toho, co znamená být kočkou.

Přimět GANS, aby dobře fungoval, může být složité. Pokud se vyskytnou závady, výsledky mohou být bizarní. Alec Radford

GANs jsou také temperamentní, říká Pedro Domingos, výzkumník strojového učení na Washingtonské univerzitě. Pokud lze diskriminátor příliš snadno oklamat, výstup generátoru nebude vypadat realisticky. A kalibrace dvou soubojových neuronových sítí může být obtížná, což vysvětluje, proč GAN někdy chrlí bizarní věci, jako jsou zvířata se dvěma hlavami.

Přesto tyto výzvy výzkumníky neodradily. Od roku 2014, kdy Goodfellow a několik dalších publikovali první studii o svém objevu, byly napsány stovky prací souvisejících s GAN. Jeden fanoušek technologie dokonce vytvořil webovou stránku nazvanou GAN zoo, která se věnuje sledování různých verzí techniky, které byly vyvinuty.

Nejviditelnější bezprostřední aplikace jsou v oblastech, které zahrnují spoustu snímků, jako jsou videohry a móda: jak by například mohla vypadat herní postava běžící deštěm? Ale při pohledu do budoucna si Goodfellow myslí, že GAN povedou k výraznějšímu pokroku. Existuje mnoho oblastí vědy a techniky, kde musíme něco optimalizovat, říká a uvádí příklady, jako jsou léky, které musí být účinnější, nebo baterie, které musí být účinnější. To bude další velká vlna.

Ve fyzice vysokých energií vědci používají výkonné počítače k ​​simulaci pravděpodobné interakce stovek subatomárních částic ve strojích, jako je Velký hadronový urychlovač v CERNu ve Švýcarsku. Tyto simulace jsou pomalé a vyžadují masivní výpočetní výkon. Výzkumníci z Yale University a Lawrence Berkeley National Laboratory vyvinuli GAN, který se po školení na existujících simulačních datech naučí generovat docela přesné předpovědi toho, jak se konkrétní částice bude chovat, a dělá to mnohem rychleji.

S výtvorem Goodfellow si lze představit nejrůznější věci, včetně nových návrhů interiérů. Ian Goodfellow

Dalším slibným oborem je lékařský výzkum. Obavy o soukromí znamenají, že výzkumníci někdy nemohou získat dostatek skutečných údajů o pacientech, aby například analyzovali, proč lék nefungoval. GANy mohou pomoci vyřešit tento problém generováním falešných záznamů, které jsou téměř stejně dobré jako skutečné, říká Casey Greene z University of Pennsylvania. Tato data by mohla být sdílena v širším měřítku, což by pomohlo pokročit ve výzkumu, zatímco skutečné záznamy jsou přísně chráněny.

The GANfather, Part III: Bad fellows

Existuje však i temnější stránka. Stroj určený k vytváření realistických padělků je dokonalou zbraní pro šiřitele falešných zpráv, kteří chtějí ovlivnit vše od cen akcií až po volby. Nástroje umělé inteligence se již používají k vkládání obrázků tváří jiných lidí na těla pornohvězd a vkládání slov do úst politiků. GAN tento problém nevytvořily, ale zhorší ho.

Hany Farid, který studuje digitální forenzní vědu na Dartmouth College, pracuje na lepších způsobech, jak odhalit falešná videa, jako je detekce nepatrných změn v barvě obličejů způsobených nádechem a výdechem, které GANs těžko přesně napodobují. Ale varuje, že GAN se postupně přizpůsobí. Jsme zásadně ve slabé pozici, říká Farid.

Tato hra na kočku a myš se bude hrát i v oblasti kybernetické bezpečnosti. Výzkumníci již zdůrazňují riziko útoků na černé skříňky, při nichž se GAN používají ke zjištění modelů strojového učení, pomocí kterých spousta bezpečnostních programů odhalí malware. Když útočník zjistí, jak funguje algoritmus obránce, může se mu vyhnout a vložit podvodný kód. Stejný přístup lze také použít k vyhýbání se spamovým filtrům a dalším obraným.

Existuje spousta oblastí vědy a techniky, kde musíme něco optimalizovat. To bude další velká vlna.

Goodfellow si je dobře vědom nebezpečí. Nyní vede tým v Googlu, který se zaměřuje na větší zabezpečení strojového učení, a varuje, že komunita umělé inteligence se musí poučit z předchozích vln inovací, ve kterých technologové považovali zabezpečení a soukromí za dodatečný nápad. V době, kdy se probrali do rizik, měli padouši značný náskok. Je zřejmé, že už jsme za začátkem, říká, ale doufejme, že dokážeme udělat významný pokrok v zabezpečení, než budeme příliš daleko.

Nemyslí si však, že bude existovat čistě technologické řešení falšování. Místo toho věří, že se budeme muset spoléhat na ty společenské, jako je výuka dětí kritickému myšlení tím, že je přimějeme k věcem, jako je řeč a debata. V řeči a debatě soutěžíte proti jinému studentovi, říká, a přemýšlíte o tom, jak vytvořit zavádějící tvrzení nebo jak vytvořit správná tvrzení, která jsou velmi přesvědčivá. Může mít pravdu, ale jeho závěr, že technologie nedokáže vyřešit problém falešných zpráv, nebude chtít slyšet mnoho lidí.

skrýt