Nový jazykový generátor OpenAI GPT-3 je překvapivě dobrý – a zcela bezduchý

padající písmena

Getty





Hraní s GPT-3 je jako vidět budoucnost, Arram Sabeti, vývojář a umělec ze San Francisca, tweetoval minulý týden . To v podstatě shrnuje odezvu na sociálních sítích v posledních několika dnech na nejnovější AI OpenAI generující jazyk.

OpenAI jako první popsaný GPT-3 ve výzkumném článku zveřejněném v květnu. Minulý týden však začala dodávat software vybraným lidem, kteří o to požádali přístup k soukromé beta verzi . OpenAI zatím chce, aby mu externí vývojáři pomohli prozkoumat, co GPT-3 umí, ale plánuje přeměnit tento nástroj na komerční produkt koncem tohoto roku, který firmám nabídne placené předplatné AI přes cloud.

GPT-3 je nejvýkonnější jazykový model všech dob. Jeho předchůdce, GPT-2, vydané minulý rok , byl již schopen vyplivnout přesvědčivé proudy textu v řadě různých stylů, když byl vyzván úvodní větou. GPT-3 je ale velký skok vpřed. Model má 175 miliard parametrů (hodnoty, které se neuronová síť snaží optimalizovat během tréninku), ve srovnání s již tak obrovskými 1,5 miliardami GPT-2. A s jazykovými modely, na velikosti opravdu záleží .

Sabeti spojený s a blogový příspěvek kde předváděl povídky, písně, tiskové zprávy, technické manuály a další, k jejichž vytvoření použil AI. GPT-3 může také produkovat pastiše konkrétních spisovatelů. Mario Klingemann, umělec, který pracuje se strojovým učením, sdílel na Twitteru povídku s názvem Důležitost bytí, napsanou ve stylu Jeroma K. Jeroma, která začíná: Je zvláštní fakt, že poslední zbývající forma společenského života v o který se obyvatelé Londýna stále zajímají, je Twitter. Touto zvláštní skutečností jsem byl ohromen, když jsem jel na jednu z pravidelných dovolených k moři a zjistil, že celé místo cvrliká jako klec pro špačky. Klingemann říká, že vše, co dal AI, byl název, jméno autora a počáteční It. Existuje dokonce přiměřeně informativní článek o GPT-3 napsaný výhradně GPT-3 .

Jiní zjistili, že GPT-3 může generovat jakýkoli druh textu, včetně kytarových karet nebo počítačového kódu. Například vylepšením GPT-3 tak, aby produkoval HTML spíše než přirozený jazyk, webový vývojář Sharif Shameem ukázal, že to dokáže vytvářet rozvržení webových stránek tím, že mu dáváte výzvy jako tlačítko, které vypadá jako meloun nebo velký červený text, který říká VÍTEJTE V MÉM NEWSLETTERU, a modré tlačítko, které říká Odebírat. Dokonce i legendární kodér John Carmack, který byl průkopníkem 3D počítačové grafiky v raných videohrách jako Doom a nyní konzultuje CTO v Oculus VR, byl nervózní : Nedávné, téměř náhodné zjištění, že GPT-3 umí psát kód, vyvolává mírné zachvění.

Navzdory svým novým trikům je GPT-3 stále náchylný k chrlení nenávistných sexistických a rasistických jazyků. Jemné vyladění modelu pomohlo omezit tento druh výstupu v GPT-2.



Není také žádným překvapením, že mnozí rychle začali mluvit o inteligenci. Ale výstup a pozoruhodná všestrannost GPT-3 jsou výsledkem vynikajícího inženýrství, nikoli skutečné chytrosti. Za prvé, AI stále vydává směšné výkřiky, které odhalují naprostý nedostatek zdravého rozumu. Ale i jeho úspěchy mají nedostatečnou hloubku, čtou spíše jako vystřihování a vkládání než originální kompozice.



Co se přesně děje uvnitř GPT-3, není jasné. Zdá se však, že je dobrý, je syntetizovat text, který našel jinde na internetu, což z něj činí jakýsi obrovský, eklektický zápisník vytvořený z milionů a milionů úryvků textu, které pak na požádání slepuje dohromady podivnými a úžasnými způsoby.

To neznamená zlehčovat úspěch OpenAI. A nástroj, jako je tento, má mnoho nových využití, a to jak dobrých (od napájení lepších chatbotů po pomoc lidem s kódováním), tak špatných (od napájení lepších robotů pro dezinformace až po pomoc dětem podvádět domácí úkoly).

Ale když přijde nový milník AI, příliš často se to zasype humbukem. Pokusil se o to i Sam Altman, který spolu s Elonem Muskem založil OpenAI zmírnit věci : Hype GPT-3 je příliš velký. Je to působivé (díky za pěkné komplimenty!), ale stále má vážné slabiny a někdy dělá velmi hloupé chyby. Umělá inteligence změní svět, ale GPT-3 je jen velmi raný záblesk. Musíme toho ještě hodně vymyslet.

Máme nízká laťka, pokud jde o rozpoznání inteligence . Pokud něco vypadá chytře, je snadné si dělat legraci, že to tak je. Největší trik, jaký kdy umělá inteligence dokázala, bylo přesvědčit svět, že existuje. GPT-3 je obrovský skok vpřed – ale stále je to nástroj vytvořený lidmi, se všemi nedostatky a omezeními, které z toho plynou.

skrýt