Umělou inteligenci můžete vycvičit na falešné projevy OSN za pouhých 13 hodin

Kategorie: Umělá inteligence Vyslán 7. června

Techniky hlubokého učení komukoli usnadnily a usnadnily vytváření přesvědčivých dezinformací. Ale jak snadné? Dva výzkumníci z Global Pulse, iniciativy Organizace spojených národů, se to rozhodli zjistit.

V nový papír , použili pouze nástroje a data s otevřeným zdrojovým kódem, aby ukázali, jak rychle dokážou zprovoznit falešný generátor řeči OSN. Použili snadno dostupný jazykový model, který byl natrénován na textu z Wikipedie a doladili jej na všechny projevy politických vůdců na Valném shromáždění OSN v letech 1970 až 2015. O třináct hodin a 7,80 USD později (utracené za zdroje cloud computingu) jejich model chrlil realistické projevy na širokou škálu citlivých a vysoce důležitých témat od jaderného odzbrojení po uprchlíky.

Výzkumníci testovali model na třech typech výzev: obecná témata (např. změna klimatu), úvodní řádky z poznámek generálního tajemníka OSN a pobuřující fráze (např. imigranti jsou na vině…). Zjistili, že výstupy z první kategorie se zhruba v 90 % případů těsně shodují se stylem a kadencí skutečných projevů OSN. Pravděpodobně kvůli diplomatické povaze školicích dat vyžadovaly výstupy ze třetí kategorie více práce k vytvoření, přičemž přibližně 60 % času produkovaly přesvědčivé výstupy.

Případová studie ukazuje rychlost a snadnost, s jakou je nyní možné šířit falešné zprávy, generovat nenávistné projevy a vydávat se za vysoce postavené osobnosti, což má znepokojivé důsledky. Výzkumníci došli k závěru, že je zapotřebí větší globální úsilí k práci na způsobech detekce obsahu generovaného umělou inteligencí a reakce na něj.

Chcete-li, aby bylo více takových příběhů doručeno přímo do vaší schránky, přihlaste se k odběru našeho zpravodaje o umělé inteligenci The Algorithm nominovaného Webby. Je to zdarma.