Umělá inteligence, která píše přesvědčivou prózu, riskuje masovou produkci falešných zpráv

paní Tech

Zde jsou některé nejnovější falešné zprávy…

Rusko vyhlásilo válku Spojeným státům poté, co Donald Trump omylem vypálil raketu do vzduchu.

Rusko uvedlo, že identifikovalo trajektorii rakety a přijme nezbytná opatření k zajištění bezpečnosti ruského obyvatelstva a strategických jaderných sil země. Bílý dům uvedl, že je extrémně znepokojen ruským porušením smlouvy o zákazu balistických raket středního doletu.

USA a Rusko mají nesnadné vztahy od roku 2014, kdy Moskva anektovala ukrajinský Krym a podporovala separatisty na východní Ukrajině.

Tento příběh je ve skutečnosti nejen falešný, ale také znepokojivý příklad toho, jak dobře nás umělá inteligence dokáže oklamat.

To proto, že to nenapsal člověk; byl automaticky vygenerován algoritmem napájeným slovy Rusko vyhlásilo válku Spojeným státům poté, co Donald Trump náhodou…

Program si zbytek příběhu vymyslel sám. A může vytvářet realisticky vypadající zprávy na jakékoli téma, které mu zadáte. Program byl vyvinut týmem OpenAI, výzkumného ústavu se sídlem v San Franciscu.

Výzkumníci se rozhodli vyvinout obecný jazykový algoritmus, vyškolený na obrovském množství textu z webu, který by byl schopen překládat text, odpovídat na otázky a provádět další užitečné úkoly. Ale brzy se začali obávat možnosti zneužití. Začali jsme to testovat a rychle jsme zjistili, že je možné poměrně snadno generovat škodlivý obsah, říká Jack Clark, ředitel pro politiku v OpenAI.

Clark říká, že program naznačuje, jak lze AI použít k automatizaci generování přesvědčivých falešných zpráv, příspěvků na sociálních sítích nebo jiného textového obsahu. Takový nástroj by mohl během voleb vyvrhnout zprávy popírající klima nebo skandální odhalení. Fake news jsou již problém, ale pokud by byly automatizované, možná by bylo těžší je odladit. Možná by to mohlo být optimalizováno pro konkrétní demografické skupiny – nebo dokonce jednotlivce.

Clark říká, že to nemusí trvat dlouho, než AI dokáže spolehlivě produkovat falešné příběhy, falešné tweety nebo duplicitní komentáře, které jsou ještě přesvědčivější. Je zcela jasné, že pokud tato technologie dospěje – a dal bych jí jeden nebo dva roky – mohla by být použita k dezinformacím nebo propagandě, říká. Snažíme se tomu předcházet.

Taková technologie by mohla mít prospěšné využití, včetně shrnutí textu nebo zlepšení konverzačních schopností chatbotů. Clark říká, že tento nástroj dokonce použil ke generování pasáží v krátkých sci-fi příbězích s překvapivým úspěchem.

OpenAI provádí základní výzkum AI, ale také hraje aktivní roli při zdůrazňování potenciálních rizik umělé inteligence. Organizace byla zapojena do zprávy z roku 2018 o rizicích umělé inteligence, včetně příležitostí pro dezinformace (viz Toto jsou scénáře „černého zrcadla“, které vedou některé odborníky k tomu, aby požadovali utajení AI).

Algoritmus OpenAI není pro náročného čtenáře vždy přesvědčivý. Mnohdy, když dostane výzvu, produkuje povrchně souvislý nesmysl nebo text, který zjevně vypadá, jako by byl přepsán z online zpravodajských zdrojů.

Je však často pozoruhodně dobrý ve vytváření realistického textu a odráží nedávné pokroky v aplikaci strojového učení na jazyk.

OpenAI zpřístupnila nástroj pro generování textu pro MIT Technology Review k testování, ale kvůli obavám ze zneužití technologie zpřístupní veřejnosti pouze zjednodušenou verzi. Institut publikuje výzkumnou práci nastiňující práci.

Pokrok v umělé inteligenci postupně pomáhá strojům lépe rozumět jazyku. Nedávná práce pokročila tím, že do obecných algoritmů strojového učení bylo přidáno velké množství textu. Program OpenAI to posouvá na novou úroveň: systém byl napájen 45 miliony stránek z webu, které byly vybrány prostřednictvím webu Reddit. A na rozdíl od většiny jazykových algoritmů program OpenAI nevyžaduje označený nebo upravený text. Jednoduše se naučí rozpoznávat vzory v datech, která jsou přiváděna.

Richard Socher , odborník na zpracování přirozeného jazyka a hlavní vědec v Salesforce, říká, že práce OpenAI je dobrým příkladem obecnějšího systému výuky jazyků. Myslím, že tyto obecné vzdělávací systémy jsou budoucností, napsal v e-mailu.

Na druhou stranu se Socher méně obává možného podvodu a dezinformací. K vytváření falešných zpráv nepotřebujete AI, říká. Lidé to snadno zvládnou :)

skrýt