Falešný blog studenta vygenerovaný umělou inteligencí oklamal desetitisíce lidí. Takhle to udělal.

paní Tech | Getty

Na začátku týdne Liam Porr slyšel pouze o GPT-3. Nakonec vysokoškolák použil k výrobě model AI úplně falešný blog pod falešným jménem.

Bylo to myšleno jako zábavný experiment. Pak se ale jeden z jeho příspěvků dostal na první místo v Hacker News. Málokdo si všiml, že jeho blog byl kompletně vytvořen AI. Někteří dokonce klikli na Odebírat.

Zatímco mnozí spekulovali o tom, jak by GPT-3, dosud nejvýkonnější nástroj AI pro generování jazyků, mohl ovlivnit produkci obsahu, toto je jeden z mála známých případů, který ilustruje potenciál. Co na této zkušenosti nejvíce vyniklo, říká Porr, který studuje informatiku na Kalifornské univerzitě v Berkeley: Bylo to vlastně super snadné, což byla ta děsivá část.

GPT-3 je OpenAI nejnovější a největší jazyková AI model, který výzkumná laboratoř se sídlem v San Franciscu začala kapat v polovině července. V únoru loňského roku se OpenAI dostalo do titulků s GPT-2, dřívější verzí algoritmu, o kterém oznámilo, že bude zadržet ze strachu, že by to bylo zneužito. Rozhodnutí okamžitě vyvolalo odpor, protože výzkumníci obvinili laboratoř z kaskadérského kousku. V listopadu měla laboratoř obrácenou pozici a vydal model s tím, že zatím nezjistil žádný pádný důkaz o zneužití.

Laboratoř zvolila jiný přístup s GPT-3; nezadržela ji ani neudělila veřejný přístup. Místo toho poskytla algoritmu výběr výzkumníků, kteří požádali o soukromou beta verzi, s cílem shromáždit jejich zpětnou vazbu a komercializovat technologii do konce roku.

Porr odeslal žádost. Vyplnil formulář s jednoduchým dotazníkem o zamýšleném použití. Ale také nečekal. Poté, co oslovil několik členů komunity Berkeley AI, rychle našel doktoranda, který již měl přístup. Jakmile postgraduální student souhlasil se spoluprací, Porr pro něj napsal malý scénář, který měl spustit. Dalo GPT-3 titulek a úvod pro blogový příspěvek a nechalo ho vyplivnout několik dokončených verzí. Porrův první příspěvek (ten, který byl uveden na Hacker News), a každý další příspěvek, byly zkopírovány a vloženy z jednoho z výstupů s malými nebo žádnými úpravami.

Od chvíle, kdy jsem nad tím nápadem přemýšlel a dostal se do kontaktu s doktorandem, až po vytvoření blogu a prvního blogu, který se stal virálním – to trvalo možná pár hodin, říká.

Porrův falešný blogový příspěvek, napsaný pod falešným jménem 'adolos', se dostal na první místo na Hacker News. Porr říká, že používal tři samostatné účty k odesílání a hlasování pro své příspěvky na Hacker News ve snaze je posouvat výš. Admin řekl, že tato strategie nefunguje, ale jeho klikací titulky ano.

SCREENSHOT / LIAM PORR

Trik, jak generovat obsah bez nutnosti velkých úprav, spočíval v pochopení silných a slabých stránek GPT-3. Je to docela dobré v tom, že tvoří pěkný jazyk, a není to příliš dobré v tom, že je logické a racionální, říká Porr. Vybral si proto oblíbenou kategorii blogu, která nevyžaduje přísnou logiku: produktivita a svépomoc.

Odtud psal své titulky podle jednoduchého vzorce: roloval po Medium a Hacker News, aby viděl, co se v těchto kategoriích dařilo, a dal dohromady něco relativně podobného. Cítíte se neproduktivní? Možná bys měl přestat příliš přemýšlet, napsal pro jednoho. Odvaha a kreativita trumfují inteligenci, napsal pro jiného. Při několika příležitostech se titulky nepovedly. Ale pokud zůstal u správných témat, proces byl snadný.

Po dvou týdnech téměř každodenních příspěvků projekt ukončil s jedna závěrečná, záhadná, vlastnoručně napsaná zpráva . S názvem Co bych udělal s GPT-3, kdybych neměl žádnou etiku, popisoval jeho proces jako hypotetický. Ve stejný den také zveřejnil další přímočaré přiznání na jeho skutečném blogu.

Těch pár lidí, kteří začali mít podezření na Porrův falešný blog, bylo ostatními členy komunity odmítnuto.

SCREENSHOT / LIAM PORR

Porr říká, že chtěl dokázat, že GPT-3 lze vydávat za lidského spisovatele. Navzdory poněkud podivnému způsobu psaní algoritmu a občasným chybám skutečně jen tři nebo čtyři z desítek lidí, kteří komentovali jeho hlavní příspěvek na Hacker News, vzbudili podezření, že mohl být vytvořen algoritmem. Všechny tyto komentáře byly okamžitě odmítnuty ostatními členy komunity.

Pro odborníky to byla dlouho obava, kterou takové algoritmy generující jazyk vyvolávají. Od chvíle, kdy OpenAI poprvé oznámila GPT-2, lidé spekulovali, že je náchylný ke zneužití. Ve svém vlastním blogovém příspěvku se laboratoř zaměřila na potenciál nástroje umělé inteligence, který by mohl být použit jako zbraň masový producent dezinformací . Jiní přemýšleli, zda by se to dalo použít k chrlení spamové příspěvky plné klíčových slov relevantních pro herní Google.

Porr říká, že jeho experiment také ukazuje světštější, ale stále znepokojivou alternativu: lidé by mohli tento nástroj použít k vytvoření velkého množství clickbaitového obsahu. Je možné, že tam bude jen záplava průměrného obsahu blogu, protože bariéra vstupu je nyní tak snadná, říká. Myslím, že hodnota online obsahu se hodně sníží.

Porr plánuje provést další experimenty s GPT-3. Ale stále čeká na přístup z OpenAI. Je možné, že jsou naštvaní, že jsem to udělal, říká. Chci říct, je to trochu hloupé.

Aktualizace: K textovým a fotografickým popiskům byly přidány další podrobnosti, které vysvětlují, jak Liam Porr vytvořil svůj blog a dostal ho na vrchol Hacker News.

skrýt