Tato umělá inteligence vytvoří tweety, o kterých nikdy nebudete vědět, že jsou spam

Minulý měsíc se někteří lidé, kteří tweetovali o Pokémon Go, stali nevědomými subjekty experimentu, který by mohl být předzvěstí znepokojivého nového druhu online útoku.





Průmysloví výzkumníci trénovali software pro strojové učení, aby mohl psát tweety jako člověk a odpovídat některým lidem pomocí hashtagu #Pokemon, což je ukázkou toho, jak lze pokroky v softwaru, který rozumí jazyku, využít k oklamání lidí online. Zhruba třetina lidí, na které se software zaměřil, klikla na neškodný odkaz zaslaný softwarem, aby otestovali, jak přesvědčivý je.

To je mnohem vyšší než 5 až 10procentní úspěšnost typická pro automatizované phishingové zprávy, jejichž cílem je přimět lidi, aby klikali na odkazy za účelem doručení malwaru nebo krádeže hesel, říká John Seymour, vedoucí datový vědec v bezpečnostní společnosti. ZeroFOX . Systém strojového učení se blíží zhruba 40procentní úspěšnosti zpráv typu spearphishing ručně vytvořených s cílem oklamat konkrétní osobu, říká.

Spearphishing je vysoce manuální a trvá desítky minut na cíl, říká Seymour. Tento přístup je téměř stejně přesný a je automatizovaný, takže by mohl být použit v mnohem větším měřítku. Všechny tweety nevypadají velmi uhlazeně, ale jsou účinné, říká. Někteří lidé odpověděli, že odkaz byl nefunkční a požádali o jeho opětovné odeslání.

Seymour ve čtvrtek na konferenci o počítačové bezpečnosti Black Hat v Las Vegas prezentoval výsledky svých experimentů s kolegou Philem Tullym. Dvojice tvrdí, že jejich práce ukazuje, že technologie strojového učení by mohla zločincům umožnit dramaticky zvýšit jejich úspěšnost.

Phishing a spearphishing jsou již značné problémy. Cisco loni oznámilo, že phishingové zprávy odeslané přes Facebook byly nejčastější příčinou neoprávněného přístupu do podnikových sítí.



Software výzkumníků ZeroFOX, SNAP_R, může fungovat dvěma způsoby. Jeden používá stejnou techniku ​​umělé inteligence, hluboké učení, kterou používají společnosti jako Google k vytváření systémů, které dokážou porozumět a přeložit jazyk. Byl trénován na dvou milionech zpráv na Twitteru, což mu umožnilo generovat vlastní realisticky vypadající tweety.

Druhý režim systému je cílenější. Učí se, jak tweetovat tím, že si prohlíží nejnovější tweety jednotlivce a vkládá je do starší techniky zvané Markovův řetězec. Poté může generovat tweety podobné těm, které napsal cíl, na které může uživatel kliknout v domnění, že zprávu napsal člověk s podobnými zájmy.



SNAP_R také dokáže identifikovat a zacílit na nejvlivnější a nejaktivnější lidi, kteří mluví o konkrétních tématech nebo používají konkrétní hashtag. Hledá klíčová slova, jako je generální ředitel v profilu osoby, a ukazatele, jako je počet jejich sledujících. ZeroFOX vydává verzi softwaru, která má výzkumníkům pomoci přemýšlet o potenciálu těchto druhů útoků a jak se jim bránit.

Software ZeroFox vygeneroval tyto tweety, aby se pokusil oklamat lidi na Twitteru.

Mike Murray, viceprezident bezpečnostního výzkumu ve společnosti pro mobilní zabezpečení Lookout, považuje vyhlídku na využití strojového učení k automatizaci procesu oklamání lidí online za děsivou. Myslí si však, že to nějakou dobu potrvá, než se tento druh přístupu použije k realizaci skutečných útoků.



Navzdory nedávnému pokroku nejlepší techniky strojového učení stále vyžadují specializované odborné znalosti a nejsou zdaleka dokonalé při generování jazyka. Google je lídrem v oblasti strojového učení a jazyků. Ale jeho aplikace Inbox schopná generovat odpovědi na e-maily může navrhovat pouze krátké odpovědi o jedné větě, říká Murray. Pokud Google nedokáže vygenerovat více než větu, pravděpodobně nedokážu vygenerovat opravdu dobrý phishingový e-mail.

Tully společnosti ZeroFOX nepředpovídá ani zítra rozsáhlé kriminální využití automatizovaného spearphishingu. Tvrdí však, že algoritmy strojového učení se stále snáze používají a nemusí dokonale ovládat jazyk, aby byly úspěšné na sociálních sítích. Lidé používající Twitter očekávají, že budou komunikovat s cizími lidmi a že uvidí méně než vyleštěnou syntaxi, říká. Na Twitteru je kultura tak tolerantní a nemusíte mít perfektní angličtinu nebo gramatiku.

skrýt