Marvin Minsky o zdravém rozumu a počítačích, které dávají emoce

Špičkoví počítačoví vědci z celého světa se dnes sešli na Dartmouth College v Hannoveru, NH, u příležitosti 50. výročí umělé inteligence. V roce 1956 John McCarthy, tehdejší člen matematické fakulty v Dartmouthu, vynalezl termín pro hlavní setkání v této oblasti, Dartmouth Summer Research Project on Artificial Intelligence. McCarthy a čtyři další účastníci projektu z roku 1956, včetně Marvina Minskyho z MIT, se účastní tohoto týdne setkání, které se zaměřuje na AI. příštích 50 let .

Marvin Minsky, emeritní profesor mediálních umění a věd na MIT, byl jedním z původních účastníků Letního výzkumného projektu umělé inteligence v Dartmouthu v roce 1956. Dnes v Dartmouthu spoluotevře pamětní konferenci k 50. výročí. (S laskavým svolením Coveney/MIT.)

Matematické a filozofické průlomy Alana Turinga, Johna von Neumanna, Herberta Simona, Allena Newella a dalších velikánů počítačové vědy učinily padesátá léta dobou velkého optimismu ohledně strojové inteligence. Vědci věřili, že brzy budou schopni naprogramovat počítače tak, aby simulovaly mnoho forem lidského uvažování. Expertní systémy by ztělesňovaly znalosti a manipulovaly by s nimi ve formě symbolické logiky. Umělé neuronové sítě by byly trénovány tak, aby se vyvíjely směrem ke správným odpovědím.

Tento optimismus se dokonce přelil do populární kultury, kde HAL, inteligentní (a hluboce narušený) počítač ve filmu Stanleyho Kubricka z roku 1968 2001: Vesmírná odysea , přehráli lidské herce.

Ale koncem 60. let bylo jasné, že aproximace i dětského lidského uvažování v počítači by vyžadovala nesmírně složité sítě logických rovnic nebo nervových spojení. Výzkumníci tedy ustoupili. Začali řešit problémy a zaměřili se na replikaci jednoduchých lidských výkonů, jako je pohyb dětských bloků (předmět dnes známého programu SHRDLU ze Stanfordského počítačového vědce Terryho Winograda, který používal pokyny v přirozeném jazyce k manipulaci s robotickou paží).

Minsky, který zahájí konferenci v Dartmouthu s McCarthym, obdivoval Winogradovu práci. Ale dlouho se vyhýbal redukcionistickým demonstracím ve prospěch zkoumání skutečných mechanismů lidského myšlení. Například ve spolupráci se Seymourem Papertem v laboratoři AI na MIT začal Minsky v 70. letech vyvíjet teorii Society of Mind, která předpokládá, že vrstvy účelových, ale bezduchých agentů spolupracují na vytváření vědomí.

Technology Review přerušil Minského 11. července, když zkoušel galeje pro svou připravovanou knihu, Stroj na emoce , který reinterpretuje lidskou mysl jako oblak zdrojů nebo mini-stroje, které se zapínají a vypínají v závislosti na situaci a dávají vzniknout našim různým emočním a duševním stavům.

Recenze technologie : Věřili byste, že od prvního setkání AI v Dartmouthu uplynulo 50 let? Zdá se vám, že uplynulo pět desetiletí?

Marvin Minsky : Nezažil jsem moc intervalů 50 let, takže těžko říct.

TR: Spravedlivé. Co si tedy myslíte o současném stavu výzkumu AI ve srovnání s tím, kde byl v roce 1956?

MM: Překvapuje mě, jak málo lidí pracovalo na teoriích vyšší úrovně o tom, jak myšlení funguje. To bylo velké zklamání. Právě vydávám velkou novou knihu o tom, o čem bychom měli přemýšlet: Jak může tříleté nebo čtyřleté dítě uvažovat selským rozumem, že je tak dobré a že to žádný stroj zřejmě neumí? dělat? Hlavní rozdíl je v tom, že když máte problém něčemu porozumět, obvykle si myslíte: Co je se mnou? nebo Čím ztrácím čas? nebo Proč tento způsob myšlení nefunguje? Existuje nějaký jiný způsob myšlení, který by mohl být lepší?

Ale druhy projektů umělé inteligence, které se odehrávají posledních 30 nebo 40 let, neměly téměř žádné reflektivní myšlení. Všechno to reaguje na situaci a sbírá statistiky. Konferenci o zdravém myšlení jsme uspořádali asi před třemi lety a podařilo se nám najít jen asi tucet badatelů z celého světa, kteří se o to zajímali.

TR: Proč se lidé vyhýbají problému zdravého rozumu?

MM: Myslím, že se lidé rozhlédnou kolem sebe, aby viděli, jaký obor je aktuálně populární, a pak tím marní život. Pokud je to populární, pak podle mě vy ne chtít na tom pracovat. Nyní je fyzika jiná. Lidé říkají, že tato populární teorie funguje docela dobře, ale nevysvětluje to či ono – takže bych se na to měl podívat. Ale když lidé píší papíry o AI, říkají pouze to, co jejich program udělal, a ne to, jak selhal nebo jaké druhy problémů nedokázal vyřešit. Lidé nepovažují za důležitý problém problém jejich systému nemá vyřešeno. Lidé získali neuronové sítě, aby poznali, že pokud hledáte například taxi, měli byste hledat žlutý pohybující se objekt. Ale neptají se, jak to, že tyto sítě nedokážou odpovědět na jiné druhy otázek.

TR: Ale porozumění zdravému rozumu je mnohem těžší problém, že? Nemůže to vysvětlit, proč tolik výzkumníků AI jde do jiných oblastí?

MM: To je pravda. Když jsem psal Společnost mysli , pracovali jsme několik let na tom, aby počítač pochopil jednoduchý dětský příběh: Mary byla pozvána na Jackovu párty. Napadlo ji, jestli by nechtěl draka. Pokud se zeptáte na otázku Proč se Mary zajímala o draka? každý zná odpověď – pravděpodobně jde o narozeninovou oslavu, a pokud jde, znamená to, že byla pozvána a každý, kdo je pozván, musí přinést dárek a musí to být dárek pro mladého kluka, takže to musí být něco, co mají kluci rádi, a chlapci mají rádi určité druhy hraček, jako jsou pálky, míčky a draci. To vše musíte vědět, abyste odpověděli na otázku. Podařilo se nám vytvořit malou databázi a přiměli program pochopit několik jednoduchých otázek. Ale zkusili jsme to na jiném příběhu a nevěděli, co dělat. Někteří z nás usoudili, že byste jich pár museli znát milión věci, než byste mohli přimět stroj, aby uvažoval selským rozumem.

TR: Když si lidé uvědomili, jak těžké je přimět počítač, aby porozuměl i jednoduchým situacím se zdravým rozumem, řekli byste, že se část optimismu kolem možností umělé inteligence v 50. a 60. letech rozplynula?

MM: Nemyslím si, že optimismus je to správné slovo. Myslím, že jsme kladli dobré otázky, ale většina lidí pracujících na tom, čemu říkali AI, nějak začala hledat jedno z těchto univerzálních řešení. Ve fyzice to fungovalo; byly tu Newtonovy rovnice a pak Maxwellovy a pak teorie relativity a kvantová teorie. Většina lidí s umělou inteligencí se to snaží napodobit a najít obecnou teorii. Ale lidé mají 100 různých mozkových center, která všechna fungují trochu odlišným způsobem. Neměli byste pracovat na jediném řešení; měli byste pracovat na řadě gadgetů.

TR: Velká část finančních prostředků na umělou inteligenci pochází od Agentury pro pokročilé obranné výzkumné projekty (DARPA), kde je celkem jasná poptávka po praktických výsledcích. Ve skutečnosti jsou jedním ze sponzorů konference Dartmouth AI. Jak DARPA formovala směr výzkumu AI?

MM: V prvních dnech DARPA podporovala spíše lidi než návrhy. Od roku 1963 došlo k velkému pokroku; asi deset let vzkvétaly věci, o kterých mluvím. A pak na začátku 70. let došlo k jakési legrační nehodě. Senátor Mike Mansfield, docela liberál, rozhodl, že ministerstvo obrany by nemělo podporovat civilní výzkum. Byl tedy zodpovědný za to, že se ARPA stala DARPA, a snažil se nekonkurovat průmyslovému a civilnímu výzkumu. Takže pro ně bylo mnohem těžší podporovat vizionářské výzkumníky.

Ve stejné době začala na počátku 70. let mizet americká korporátní výzkumná komunita. Bell Labs a RCA a ostatní v podstatě zmizely z tohoto druhu činnosti. A další věc se stala: chyba podnikatele. V 80. letech se mnoho lidí začalo pokoušet patentovat věci a zakládat startupy a vyrábět produkty, a to se časově shodovalo s obecným mizením mladých vědců. Lidé, kteří se mohli stát produktivními vědci, se nyní věnují právu a podnikání.

Takže neexistuje způsob, jak tento výzkum podpořit. Pokud máte dobrý nápad, je těžké ho zveřejnit, protože lidé říkají Where’s your experiment? Problém se zdravým rozumem je ale v tom, že nemůžete experimentovat, dokud nemáte velkou databázi zdravého rozumu. Existuje jeden s názvem Cyc, který založil Doug Lenat v roce 1985. A máme ho Otevřená mysl databáze, která je veřejně dostupná, ale zatím nepříliš dobře strukturovaná. Ale je to celý výzkumný projekt, abychom zjistili, jak otevřít databázi Open Mind.

TR: Zmínil jste, že počítač potřebuje znát několik milionů věcí, aby mohl navázat spojení se zdravým rozumem. Ale Lenat a jeho kolegové pracovali přesně na tom a trávili roky vkládáním znalostí zdravého rozumu do Cyc. Proč je potřeba další databáze?

MM: Když Lenat v roce 1985 spustil Cyc, byl docela ambiciózní a žádný jiný takový projekt neexistoval. S kolegy jsme si řekli, počkáme a uvidíme, jak to bude fungovat. A pak se chvíli nic nedělo.

Lenat udělal několik velmi dobrých věcí. Problém je v tom, že Cyc je velmi obtížné používat a je proprietární, takže jej výzkumníci příliš nepoužívají. A s jeho systémem je spousta problémů, které se neobjevily dříve, protože neexistovala žádná konkurence.

Udělali to konzistentní, takže to vlastně moc neví. Měla by být velryba považována za savce nebo za rybu? Velryby mají mnoho vlastností podobných rybám, takže většina lidí je překvapena, když slyší, že jde o savce. Ale skutečná odpověď je, že by mělo být obojí. Databáze zdravého rozumu nemusí být nutně logicky konzistentní. Lenat si nakonec uvědomil, že by měli restrukturalizovat Cyc poskytnutím různých kontextů, ve kterých se může objevit otázka. Ale databáze byla původně strukturována tak, aby věci byly velmi logické, a jejím jazykem je predikátový kalkul. Naší snahou je, aby systém Open Mind používal přirozený jazyk – který je samozřejmě plný nejednoznačností, ale nejednoznačnosti jsou dobré i špatné.

TR: Jaké jsou některé z hlavních argumentů nebo doporučení výzkumu ve vaší připravované knize, Stroj na emoce ?

MM: Hlavní myšlenkou knihy je to, čemu říkám vynalézavost. Pokud něčemu nerozumíte několika různými způsoby, pravděpodobně uvíznete. Takže první věcí v knize je, že musíte mít různé způsoby popisu věcí. Vymyslel jsem pro to slovo: panalogie. Když něco reprezentujete, měli byste to reprezentovat několika různými způsoby, abyste mohli bez přemýšlení přecházet z jednoho na druhý.

Druhá věc je, že byste měli mít několik způsobů myšlení. Potíž s umělou inteligencí je v tom, že každý říká, že vytvoří systém založený na statistických inferencích nebo genetických algoritmech nebo na čemkoli, a každý systém je dobrý pro některé problémy, ale ne pro většinu ostatních. Důvod titulu Stroj na emoce je, že máme tyto věci zvané emoce a lidé je považují za tajemné doplňky racionálního myšlení. Můj názor je, že emocionální stav je jiný způsob myšlení.

Když jste naštvaní, vzdáte se svého dlouhodobého plánování a budete přemýšlet rychleji. Měníte sadu prostředků, které aktivujete. Stroj bude potřebovat sto způsobů myšlení. A náhodou máme sto jmen pro emoce, ale ne pro způsoby myšlení. Kniha tedy pojednává o asi 20 různých směrech, kterými se mohou lidé ve svém myšlení vydat. Potřebují však mít extra metaznalosti o tom, jaký způsob myšlení je v každé situaci vhodný.

TR: Říkáte, že by se počítače měly zlobit?

MM: Pokud vám někdo stojí v cestě a neuhne vám z cesty, musíte ho zastrašit, vyděsit nebo přimět, aby se bál. To je naprosto rozumný způsob, jak vyřešit problém, pokud spěcháte a pokud se stane něco špatného, ​​když je nemůžete obejít. Navrhuji, že pro tyto způsoby myšlení potřebujeme asi 20 různých slov. Pak můžeš zahodit racionální.

Minského Stroj emocí: myšlení zdravého rozumu, umělá inteligence a budoucnost lidské mysli je naplánováno vydání v pevné vazbě u Simon & Schuster v listopadu 2006. Minsky vydal a návrh knihy online.

skrýt