Šachy jsou příliš snadné

Počítačová věda má dva názory na umělou inteligenci (AI). Někteří počítačoví vědci věří v takzvanou silnou umělou inteligenci, která zastává názor, že veškeré lidské myšlení je zcela algoritmické, to znamená, že je lze rozložit na řadu matematických operací. Logicky následuje, tvrdí, že inženýři AI nakonec replikují lidskou mysl a vytvoří skutečně sebevědomého robota plného pocitů a emocí. Jiní přijímají slabou umělou inteligenci, představu, že lidské myšlení lze simulovat pouze ve výpočetním zařízení. Pokud mají pravdu, budoucí roboti mohou vykazovat většinu chování zařízení. Pokud mají pravdu, budoucí roboti mohou vykazovat mnoho z chování osob, ale žádný z těchto robotů nikdy nebude osobou; jejich vnitřní život bude prázdný jako kámen.

Minulé předpovědi zastánců silné a slabé umělé inteligence přispěly k posunu debaty jen málo. Například Herbert Simon, profesor psychologie na Carnegie Mellon University, možná první a nejenergičtější stoupenec silné umělé inteligence, před čtyřmi desetiletími předpověděl, že stroje s myslí se blíží. Není mým cílem vás překvapit nebo šokovat, řekl. Ale nejjednodušší způsob, jak mohu shrnout, je říci, že nyní jsou na světě stroje, které myslí, které se učí a tvoří. Navíc se jejich schopnost dělat tyto věci bude rychle zvyšovat, dokud – ve viditelné budoucnosti – nebude rozsah problémů, které mohou zvládnout, stejný jako rozsah, na který byla aplikována lidská mysl.

Na druhé straně rovnice Hubert Dreyfus, profesor filozofie v Berkeley, před dvěma desetiletími vsadil na farmě, že počítače svírající symboly se nikdy ani nepřiblíží schopnostem lidských bytostí řešit problémy, natož vnitřnímu životu. Ve své knize What Computers Can't Do (HarperCollins 1978) a znovu v revidovaném vydání What Computers Still Can't Do (MIT Press 1992) tvrdil, že impozantní počítače pro hraní šachů zůstanou navždy v říši fikce a odvážil se komunitě AI dokázat, že se mýlí.

Vítězství počítače Deep Blue od IBM loni na jaře nad největším lidským šachistou světa Garym Kasparovem Dreyfusovu předpověď vymazalo. Ale argumentuje to také spíše pro silnou než slabou AI? Zdá se, že sám Kasparov si to myslí. K radosti příznivců Strong AI Kasparov loni v březnu v Time prohlásil, že cítí nový druh inteligence bojující proti němu.

Známému filozofovi Danielu Dennettovi z Tufts University by navíc taková reakce ve světle triumfu Deep Blue nepřipadala hyperbolická. Dennett, úhlavní obhájce silné umělé inteligence, věří, že vědomí je jeho jádrem algoritmu a že umělá inteligence rychle redukuje vědomí na výpočty.

Ale ve svém jásání Kasparov, Dennett a další, kteří věří, že Deep Blue propůjčuje silné AI důvěryhodnost, přehlížejí jeden důležitý fakt: z čistě logického hlediska jsou šachy pozoruhodně snadné. Jak je již dlouho známo, neporazitelné šachy lze teoreticky hrát i bezduchým systémem, pokud se řídí algoritmem, který sleduje důsledky každého možného tahu, dokud není nalezena pozice partnera nebo remízy.

Samozřejmě, i když je tento algoritmus bolestně jednoduchý (studenti informatiky se ho běžně učí), je výpočetně složitý. Ve skutečnosti, pokud předpokládáme průměr asi 32 možností na hru, dává to tisíc možností pro každý celý tah (tah je hra jedné strany, po níž následuje hra jako odpověď). Pět tahů dopředu tedy dává kvadrilion (1015) možností. Při pohledu dopředu 40 tahů, délka typické hry, by zahrnovalo 10 120 možností. Deep Blue, která zkoumá více než 100 milionů pozic za sekundu, by trvalo téměř 10 112 sekund, tedy asi 10 104 let, aby prozkoumala každý pohyb. Pro srovnání, od počátku vesmíru uplynulo méně než 1018 sekund a mezi znalci počítačových šachů panuje shoda v tom, že naše slunce zanikne dříve, než i zítřejší superpočítače mohou provést tak vyčerpávající hledání.

Ale co když se počítač může dívat hodně dopředu (poháněný, řekněme, algoritmem známým jako alpha-beta minimax search, hlavní strategie Deep Blue), na rozdíl od celé cesty? A co kdyby dokázalo spojit tuto zpracovatelskou sílu se špetkou znalostí některých základních principů šachu – například těch, které se týkají královské bezpečnosti, které byly mimochodem instalovány v Deep Blue těsně před zápasem s Kasparovem? Odpověď, jak Deep Blue hlasitě ukázal, je, že takto vyzbrojený stroj dokáže nejlépe i ten nejlepší lidský šachista.

Kreativita Ex Machina?

Ale druh myšlení, který jde do šachů, naskládaných proti plné síle a rozsahu lidské mysli, je daleko od celého příběhu. Matematička z devatenáctého století Ada Byron, známá jako Lady Lovelace, byla možná první, kdo navrhl, že kreativita je zásadní rozdíl mezi myslí a strojem – definující podstata, která přesahuje to, co dokáže i ten nejsofistikovanější algoritmus. Lovelace tvrdila, že výpočetní stroje, jako jsou stroje, které vytvořil její současník Charles Babbage, nedokážou nic vytvořit, protože stvoření vyžaduje minimálně něco vytvořit. Počítače nemohou vytvořit nic; mohou pouze dělat to, co jim prostřednictvím programů nařídíme.

O století později Alan Turing, dědeček umělé inteligence a informatiky, reagoval na námitku lady Lovelaceové vynalezením dnes známého Turingova testu, kterým počítač projde, pokud dokáže oklamat člověka, aby si myslel, že je to člověk. Bohužel, zatímco šachy jsou příliš snadné, Turingův test je pro dnešní počítače stále příliš obtížný. Například podvod – kterého by měl být schopný výkonný počítačový hráč v Turingově testu jistě umět – je neuvěřitelně komplexní koncept. Naléhat na člověka, aby mylně přijal falešnou představu, vyžaduje, aby počítač pochopil nejen to, že myšlenka je falešná, ale také nesčetné jemné souvislosti, které existují mezi myšlenkou a přesvědčením, postoji a nesčetnými dalšími myšlenkami této osoby.

Ačkoli je Turingův test v současné době mimo dosah nejchytřejších z našich strojů, může existovat jednodušší způsob rozhodování mezi silnou a slabou formou AI-one, který podtrhuje kreativitu, což může být skutečný problém ve hře Silný vs. Slabý střet. Test, který navrhuji, je jednoduše: Může stroj vyprávět příběh?

I když se výhodnost tohoto testu nemusí na první pohled zdát zřejmá, existuje několik zajímavých důvodů, proč si myslet, že jde o dobrý ukazatel ohleduplnosti. Například dominantní test kreativity při použití v psychologii – Torancovy testy kreativního myšlení – požadují od subjektů, aby vytvořily příběhy.

Ani přítomnost narativu v těchto testech není svévolná; mnoho kognitivních vědců věrohodně tvrdí, že vyprávění je v samém srdci lidského poznání. Roger Schank, známý kognitivní vědec z Northwestern University, směle tvrdí, že prakticky veškeré lidské poznání je založeno na příbězích. Jeho základním tvrzením je, že když si pamatujete minulost, pamatujete si ji jako soubor příběhů, a když sdělujete informace, dodáváte je také ve formě příběhů.

Ale možná nejdůležitější pro tuto diskusi je, že příběhová hra zasáhne přímo do podstaty rozdílu mezi silnou a slabou AI. Lidé považují za nemožné produkovat literaturu, aniž by si osvojili úhly pohledu postav, tedy aniž by cítili, jaké to je být těmito postavami; proto lidští autoři vytvářejí příběhy tím, že vydělávají na skutečnosti, že jsou si vědomi v plném slova smyslu – což znamená být si vědomi zároveň sebe sama, druhé osoby a vztahu (nebo jeho nedostatku) mezi těmito dvěma osobami.

Hluboký příběh

Vypadá to, že příběhová hra by proto byla lepším testem toho, zda počítače umí myslet, než šachy a dáma, které v současnosti na konferencích AI převládají. Jak by ale příběhová hra vypadala? V příběhové hře bychom dali počítači i mistru lidskému vypravěči poměrně jednoduchou větu, řekněme: Gregor se probudil a zjistil, že jeho břicho je tvrdé jako ulita a že tam, kde byla jeho pravá paže, se teď vrtí chapadlo. Oba hráči pak musí vytvořit příběh navržený tak, aby byl skutečně zajímavý, čím literárnější – pokud jde o bohatou charakteristiku, nedostatek předvídatelnosti a zajímavý jazyk – tím lépe. Mohli bychom pak nechat příběhy posuzovat člověkem, takže jako v Turingově testu, když takový soudce nedokáže určit, která odpověď přichází od mechanické múzy a která od člověka, řekli bychom, že hru vyhrál stroj.

Jak si v takové hře povedou budoucí stroje? Myslím, že délka příběhu je klíčovou proměnnou. Příběhová hra, která staví mysl proti stroji, v níž je délka a složitost vyprávění neomezená, by jistě zpečetila porážku stroje na další staletí. Ačkoli zastánci silné umělé inteligence by se domnívali, že stroj by mohl nakonec zvítězit v soutěži o to, zda mysl nebo stroj dokáže vytvořit lepší román, i oni by souhlasili s tím, že pokus sestrojit takový stroj je dnes nemyslitelný. Úkol by byl tak těžký, že by nikdo ani nevěděl, kde začít.

Stručně řečeno, ačkoli Turingův test je, jak již bylo uvedeno, příliš těžký na to, aby v současnosti poskytl formát pro soutěž strojů mysli, mnoho lidí si myslí, že si dokážou představit blízkou budoucnost, kdy stroj v tomto testu obstojí. Pokud však jde o neomezenou příběhovou hru, takovou budoucnost si prostě nelze představit. Můžeme si samozřejmě představit budoucnost, ve které počítač vytiskne román – ale neumíme si představit algoritmy, které by fungovaly v zákulisí.

Abych tedy dal příznivcům Strong AI šanci bojovat, omezil bych soutěž na nejkratší povídky, řekněme, o délce méně než 500 slov. Tato verze hry by se měla ukázat jako lákavá výzva pro inženýry Strong AI. A stejně jako plná verze vyžaduje kreativitu od těch – mysli nebo stroje – kteří by ji hráli.

Jak by se pak budoucí stroje mohly postavit proti lidským autorům, když každý dostane jednu větu jako výchozí bod ke krátké povídce?

Nemusím mít špatné postavení, abych mohl předpovídat. S pomocí Luce Foundation, Apple Computer, IBM, Rensselaer Polytechnic Institute (RPI) a National Science Foundation jsem strávil posledních sedm let (a asi tři čtvrtě milionu dolarů) prací s řadou výzkumníků- nejprominentněji Marie Meteerová, vědkyně z Bolt, Beranek a Newman; David Porush, profesor na RPI; a David Ferrucci, vedoucí vědec z IBM T.J. Watson Research Center – vybudovat impozantního umělého autora povídek.

Část toho, co mě a další výzkumníky pohání ve snaze vytvořit takové syntetické Prousty, Joyce a Kafky, je přesvědčení, že skutečně inteligentní samostatné zábavní systémy budoucnosti budou mimo jiné vyžadovat systémy umělé inteligence, které umí vytvářet a přímé příběhy. Ve virtuálních příběhových světech budoucnosti, které jsou plné umělých postav, se věci budou v reálném čase odvíjet příliš rychle na to, aby proces řídil člověk. Herní průmysl v současnosti kráčí po tenké hranici mezi striktním předepisováním hry a ponecháním věcí, aby se chtě nechtě dějí, když se lidé rozhodují. To, co je zoufale potřeba, je umělá inteligence, která dokáže převést události do souvislého příběhového vlákna a zároveň umožní lidským hráčům hrát ve zdánlivě nekonečném prostoru trajektorií zápletek.

Posledním výsledkem mé dřiny v tomto ohledu (ve spolupráci s Ferruccim a Adamem Lallym, softwarovým inženýrem z Legal Knowledge Systems of Troy, NY) je umělý agent zvaný Brutus.1, který se tak jmenuje, protože literární koncept, na který se specializuje, je zrada. Bohužel Brutus.1 není schopen hrát povídkovou hru. Má znalosti o ontologii akademických profesorů, disertačních prací, studentů, tříd a tak dále; ale byla by paralyzována otázkou mimo její znalostní základnu. Například neví nic o anatomii hmyzu. Proto by věta týkající se Gregora zanikla.

Nicméně Brutus.1 je schopen psát krátké povídky – pokud jsou příběhy založeny na představě zrady (a také sebeklamu, zla a do jisté míry voyeurismu), což nejsou neslibné literární domýšlivosti (viz postranní panel, Zrada, Brutus.1 – stejně jako Richard III., Macbeth, Othello.)

Takové téměř beletristické výkony jsou pro Bruta.1 možné jen proto, že jsme s Ferruccim byli schopni vymyslet formální matematickou definici zrady a vybavit Bruta.1 konceptem (viz postranní panel Matematizace zrady). Ale adaptovat Brutus.1 tak, aby se dobře hrálo v povídkové hře, by to jistě potřebovalo pochopit nejen zradu, ale i další velká literární témata, jako je dobře neopětovaná láska, pomsta, žárlivost, otcovražda a tak dále.

Navždy v bezvědomí

Mám ještě tři roky na to, abych pokračoval v mém desetiletém projektu postavit impozantní křemíkový Hemingway. V tuto chvíli je však Brutus.1 působivý a přestože naším záměrem je vytvořit potomky Bruta.1, kteří dokážou porozumět celé řadě literárních konceptů a dalším, zdá se celkem jasné, že počítače nikdy nebudou nejlepšími lidskými vypravěči příběhů. i povídkovou soutěž.

Z naší práce je zřejmé, že k vyprávění skutečně strhujícího příběhu by stroj potřeboval porozumět vnitřnímu životu svých postav. A k tomu by bylo potřeba nejen myslet mechanicky ve smyslu rychlého výpočtu (silná síla superpočítačů jako Deep Blue), ale také by bylo potřeba myslet prožitkově ve smyslu subjektivního nebo fenomenálního povědomí. Člověk může například prožitkově přemýšlet o výletu do Evropy jako dítě, vzpomenout si, jaké to bylo být v Paříži za slunečného dne se starším bratrem, rozbít drive po fairwayi, cítit milenecký dotek, lyžovat na nebo se potřebujete dobře vyspat. Ale každý takový příklad, tvrdím, bude vyžadovat schopnosti, které žádný stroj nikdy mít nebude.

Renomovaní lidští vypravěči tomuto konceptu rozumí. Například dramatik Henrik Ibsen řekl: Postavu musím mít skrz naskrz v mysli, musím proniknout do posledního vrásky jeho duše. Takový modus operandi je stroji navždy uzavřen.

Pokud se zastánci silné umělé inteligence snaží postavit stroj, který je schopen převládnout v povídkové hře, musí se snažit postavit přesně to, co odlišuje silnou od slabé umělé inteligence: vědomý stroj. Přesto ve snaze o takový stroj čekají výzkumníci Strong AI na vyvrcholení, které bude navždy přicházet, nikdy nebude přítomno.

Věřící ve slabou umělou inteligenci, stejně jako já, se budou snažit navrhnout systémy, které postrádají Ibsenovu schopnost dívat se očima někoho jiného a vytvoří bohatě vykreslené postavy. Ale i když očekávám pokrok, očekávám, že na rozdíl od hraní šachů bude prvotřídní vyprávění i při skromné ​​délce povídek vždy výhradní oblastí lidských mistrů.

Přesto budu pokračovat v posledních třech letech svého projektu, především proto, že očekávám, že si užiju spoustu zábavy a také budu moci s určitou autoritou říci, že stroje nemohou být kreativní a vědomé (jak Používám nejmodernější techniky) a vytvářím fungující systémy, které budou mít značnou vědeckou a ekonomickou hodnotu.

Kasparov se bezpochyby brzy vrátí na další kolo šachů s Deep Blue nebo jejími potomky a může docela dobře vyhrát. Ve skutečnosti tuším, že to bude dalších 10 let, než hráči strojového šachu porazí velmistry v turnaji za turnajem. Brzy však Kasparov a ti, kteří usednou na jeho trůn, vždy prohrají.
Ale to není případ, když vezmeme v úvahu šance těch, kteří by se snažili pokořit nejen skvělé šachisty, ale také skvělé autory. Nevěřím, že se John Updike nebo jeho nástupci někdy ocitnou ve vyprávění příběhů, potící se pod tak jasnými a horkými světly jako ta, která zářila na Garyho Kasparova.

skrýt