Nikdy nebudeme mít skutečnou umělou inteligenci, aniž bychom nejprve porozuměli mozku

Patrick T Powers

Hledání umělé inteligence bylo vždy o snaze postavit stroje, které myslí — alespoň v nějakém smyslu. Ale otázka, nakolik by měla být umělá a biologická inteligence podobná, rozděluje názory po celá desetiletí. První snahy o vybudování umělé inteligence zahrnovaly rozhodovací procesy a systémy ukládání informací, které byly volně inspirovány tím, jak se zdálo, že lidé myslí. A dnešní hluboké neuronové sítě jsou volně inspirovány způsobem, jakým propojené neurony hoří v mozku. Ale volná inspirace je obvykle tak daleko, jak jen to jde.

Související příběh

Obecná umělá inteligence: Jsme si blízcí a má vůbec smysl to zkoušet?

Stroj, který by mohl myslet jako člověk, byl vůdčí vizí výzkumu umělé inteligence již od prvních dnů – a zůstává jeho nejrozdílnější myšlenkou.

Většina lidí v AI se příliš nezajímá o detaily, říká Jeff Hawkins, neurovědec a technologický podnikatel. Chce to změnit. Hawkins se pohybuje mezi dvěma světy neurovědy a umělé inteligence již téměř 40 let. V roce 1986, po několika letech jako softwarový inženýr ve společnosti Intel, se objevil na Kalifornské univerzitě v Berkeley, aby zahájil doktorát z neurovědy, v naději, že zjistí, jak inteligence funguje. Jeho ambice však narazila na zeď, když mu bylo řečeno, že tu není nikdo, kdo by mu pomohl s tak velkolepým projektem. Frustrovaný vyměnil Berkeley za Silicon Valley a v roce 1992 založil Palm Computing, který vyvinul PalmPilot – předchůdce dnešních smartphonů.

Jeho fascinace mozkem však nikdy nezmizela. O 15 let později se vrátil k neurovědě a založil ji Redwood centrum pro teoretické neurovědy (nyní v Berkeley). Dnes běží Numenta , neurovědní výzkumná společnost se sídlem v Silicon Valley. Tam on a jeho tým studují neokortex, část mozku zodpovědnou za vše, co si spojujeme s inteligencí. Po řetězec průlomů v posledních několika letech Numenta změnila své zaměření z mozků na AI a to, co se naučila o biologické inteligenci, aplikovala na stroje.

Hawkinsovy nápady inspirovaly velká jména v oblasti umělé inteligence, včetně Andrewa Nga, a získaly uznání od takových, jako je Richard Dawkins, který napsal nadšenou předmluvu k Hawkinsově nové knize. Tisíc mozků: Nová teorie inteligence , zveřejněno 2. března.

Dlouho jsem si povídal s Hawkinsem na Zoomu o tom, co jeho výzkum lidských mozků znamená pro strojovou inteligenci. Není prvním podnikatelem ze Silicon Valley, který si myslí, že má všechny odpovědi – a ne každý bude pravděpodobně souhlasit s jeho závěry. Ale jeho nápady by mohly otřást AI.

Náš rozhovor byl z důvodu délky a srozumitelnosti upraven.

Proč si myslíte, že se AI v tuto chvíli ubírá špatným směrem?

To je složitá otázka. Ahoj, nejsem kritik dnešní AI. Myslím, že je to skvělé; je to užitečné. Jen si nemyslím, že je to inteligentní.

Mým hlavním zájmem je mozek. Před desítkami let jsem se zamiloval do mozků. Dlouho jsem zastával názor, že než vytvoříme AI, musíme nejprve zjistit, co to vlastně inteligence je, a nejlepší způsob, jak toho dosáhnout, je studovat mozky.

V roce 1980 nebo tak nějak jsem cítil, že přístupy k AI nepovedou ke skutečné inteligenci. A totéž jsem cítil ve všech různých fázích umělé inteligence – není to pro mě nic nového.

Dívám se na pokrok, kterého bylo v poslední době dosaženo s hlubokým učením, a je to dramatické, je to docela působivé – ale to nic nemění na skutečnosti, že v podstatě chybí. Myslím, že vím, co je to inteligence; Myslím, že vím, jak to mozek dělá. A umělá inteligence nedělá to, co dělají mozky.

Chcete říct, že k vybudování umělé inteligence nějak potřebujeme znovu vytvořit mozek?

Ne, nemyslím si, že budeme vytvářet přímé kopie mozků. Vůbec nejsem na emulaci mozku. Ale budeme muset postavit stroje, které fungují na podobných principech. Jediné příklady inteligentních systémů, které máme, jsou biologické systémy. proč bys to nestudoval?

Je to, jako bych vám poprvé ukázal počítač a vy jste řekli: To je úžasné! Něco takového si postavím. Ale místo toho, abyste se na to dívali a snažili se přijít na to, jak to funguje, prostě odejdete a začnete se snažit vytvořit něco od nuly.

Co tedy mozek dělá, co je pro inteligenci zásadní, co si myslíte, že musí dělat i AI?

Existují čtyři minimální atributy inteligence, jakési základní linie. Prvním z nich je učení pohybem: nemůžeme vnímat všechno kolem nás najednou. Musíme se pohnout, abychom si vytvořili mentální model věcí, i když to bude jen hýbat očima nebo rukama. Tomu se říká ztělesnění.

Související příběh

Koncept v psychologii pomáhá umělé inteligenci lépe se orientovat v našem světě

Dále tento smyslový vstup zaberou desítky tisíc kortikálních sloupců, z nichž každý má částečný obraz světa. Soutěží a kombinují prostřednictvím jakýsi volební systém vybudovat si celkový pohled. To je nápad tisíce mozků . V systému umělé inteligence by to mohlo zahrnovat stroj ovládající různé senzory – zrak, dotyk, radar a tak dále – a získat tak úplnější model světa. Ačkoli pro každý smysl, jako je zrak, bude typicky existovat mnoho kortikálních sloupců.

Pak je tu kontinuální učení, kde se učíte nové věci, aniž byste zapomněli předchozí věci. Dnešní systémy umělé inteligence to nedokážou. A nakonec znalosti strukturujeme pomocí referenční rámy , což znamená, že naše znalost světa je relativní k našemu úhlu pohledu. Když posouvám prstem po okraji šálku kávy, dokážu předvídat, že ucítím jeho okraj, protože vím, kde mám ruku ve vztahu k šálku.

Vaše laboratoř se nedávno přesunula z neurovědy na AI. Odpovídá to vaší teorii tisíce mozků, která se dala dohromady?

Docela dost. Ještě před dvěma lety, pokud jste vešli do naší kanceláře, byla to celá neurověda. Pak jsme provedli přechod. Měli jsme pocit, že jsme se toho o mozku naučili dost, abychom ho začali aplikovat na AI.

Jaké druhy práce s umělou inteligencí děláte?

Jedna z prvních věcí, na kterou jsme se podívali, byla řídkost. V každém okamžiku střílejí pouze 2 % našich neuronů; aktivita je řídká. Aplikovali jsme tuto myšlenku na sítě s hlubokým učením a daří se nám to dramatické výsledky , jako 50násobné zrychlení ve stávajících sítích. Sparity také poskytuje robustnější sítě, nižší spotřebu energie. Nyní pracujeme na neustálém učení.

Je zajímavé, že zahrnujete pohyb jako základ pro inteligenci. Znamená to, že AI potřebuje tělo? Musí to být robot?

V budoucnu si myslím, že rozdíl mezi AI a robotikou zmizí. Ale právě teď dávám přednost slovu ztělesnění, protože když mluvíte o robotech, vyvolává to představy robotů podobných lidem, což není to, o čem mluvím. Klíčovou věcí je, že umělá inteligence bude muset mít senzory a umět je pohybovat vůči sobě a věcem, které modeluje. Ale můžete mít také virtuální AI, která se pohybuje na internetu.

Tato myšlenka je zcela odlišná od mnoha populárních představ o inteligenci, o mozku bez těla.

Pohyb je opravdu zajímavý. Mozek používá stejné mechanismy k pohybu mého prstu po šálku kávy nebo k pohybu očí, nebo dokonce když přemýšlíte o koncepčním problému. Váš mozek se pohybuje přes referenční rámce, aby si vybavil fakta, která má uložená na různých místech.

Klíčové je, že každý inteligentní systém, bez ohledu na jeho fyzickou podobu, se učí model světa tím, že cítí různé jeho části, pohybuje se v něm. To je základní kámen; od toho se nemůžeš dostat. Ať už to vypadá jako humanoidní robot, hadí robot, auto, letadlo nebo, víte, jen počítač sedící na vašem stole a brouzdal po internetu – všechny jsou stejné.

Jak se k těmto nápadům staví většina výzkumníků AI?

Naprostá většina výzkumníků AI ve skutečnosti nepřijímá myšlenku, že mozek je důležitý. Chci říct, ano, lidé před chvílí přišli na neuronové sítě a jsou tak trochu inspirováni mozkem. Ale většina lidí se nesnaží replikovat mozek. Prostě cokoli funguje, funguje. A dnešní neuronové sítě fungují dostatečně dobře.

Související příběh

Průkopník umělé inteligence Geoff Hinton: Hluboké učení zvládne všechno Před třiceti lety byla Hintonova víra v neuronové sítě protikladná. Nyní je těžké najít někoho, kdo nesouhlasí, říká.

A většina lidí v AI má velmi málo pochopení pro neurovědu. Není se čemu divit, protože je to opravdu těžké. Není to něco, o čem si jen sednete a strávíte pár dní čtením. Samotná neurověda se snažila pochopit, co se sakra děje v mozku.

Ale jedním z velkých cílů psaní této knihy bylo zahájit konverzaci o inteligenci, kterou nemáme. Můj ideální sen je, aby si tuto knihu přečetla každá laboratoř umělé inteligence na světě a začala o těchto myšlenkách diskutovat. Přijímáme je? nesouhlasíme? To dříve opravdu nebylo možné. Chci říct, že tento výzkum mozku je mladší než pět let. Doufám, že to bude skutečný zlom.

Jak podle vás tyto rozhovory mění výzkum AI?

Jako obor postrádá AI definici toho, co je inteligence. Víš, Turingův test je podle mě jedna z nejhorších věcí, která se kdy stala. I dnes se stále tolik zaměřujeme na benchmarky a chytré triky. Nesnažím se říct, že to není užitečné. AI, která dokáže detekovat rakovinné buňky, je skvělá. Ale je to inteligence? Ne. V knize používám příklad robotů na Marsu, kteří budují stanoviště pro lidi. Zkuste si představit, jaký druh AI je k tomu zapotřebí. Je to možné? je to zcela možné. Myslím, že na konci století budeme mít takové stroje. Otázkou je, jak se z toho dostat, jako: Zde je další trik k základům potřebným k budování budoucnosti.

Co udělal Turing špatně, když začal konverzaci o strojové inteligenci?

Chci jen říct, že když se vrátíte a přečtete si jeho původní práci, v podstatě se snažil přimět lidi, aby se s ním přestali hádat o tom, jestli dokážete postavit inteligentní stroj. Řekl: Tady je pár věcí k zamyšlení – přestaň mě otravovat. Problém je ale v tom, že se soustředí na úkol. Dokáže stroj něco, co člověk? A to bylo rozšířeno na všechny cíle, které jsme pro AI stanovili. Takže hraní Go bylo pro AI velkým úspěchem. Opravdu? [ Smích ] Myslím, dobře.

Problém všech metrik založených na výkonu, a Turingův test je jednou z nich, je ten, že se jen vyhýbá konverzaci nebo velké otázce o tom, co je inteligentní systém. Pokud dokážete někoho oklamat, pokud dokážete vyřešit úkol pomocí nějakého chytrého inženýrství, pak jste dosáhli tohoto měřítka, ale nutně jste neudělali žádný pokrok směrem k hlubšímu pochopení toho, co to znamená být inteligentní.

Je zaměření na lidský úspěch také problémem?

Myslím, že v budoucnu mnoho inteligentních strojů nebude dělat nic, co lidé. Mnohé budou velmi jednoduché a malé – víte, stejně jako myš nebo kočka. Zaměřit se na jazyk a lidskou zkušenost a všechny tyto věci, aby bylo možné projít Turingovým testem, je pro stavbu inteligentního stroje jaksi irelevantní. Je to důležité, pokud chcete postavit stroj podobný člověku, ale nemyslím si, že to chceme dělat vždy.

V knize vyprávíte příběh o předávání kapesních počítačů šéfovi společnosti Intel, který neviděl, k čemu slouží. Co tedy tyto budoucí AI udělají?

Nevím. Nikdo neví. Ale nepochybuji o tom, že pro inteligentní stroje najdeme gazilión užitečných věcí, které mohou dělat, stejně jako jsme to udělali pro telefony a počítače. Nikdo ve 40. nebo 50. letech nepředpokládal, co počítače udělají. S AI to bude stejné. bude to dobré. Některé špatné, ale většinou dobré.

Ale raději o tom uvažuji v dlouhodobém horizontu. Místo toho, abyste se ptali, k čemu je budování inteligentních strojů? Ptám se co je smyslem života? Žijeme v obrovském vesmíru, ve kterém jsme malé tečky ničeho. Tenhle otazník mám v hlavě už od malička. Proč se o něco staráme? Proč to všechno děláme? Jaký by měl být náš cíl jako druhu?

Myslím, že to není o zachování genofondu: je to o zachování znalostí. A pokud o tom takto přemýšlíte, inteligentní stroje jsou k tomu nezbytné. Nebudeme tu věčně, ale naše stroje by mohly být.

Připadá mi to inspirativní. Chci smysl svého života. Myslím, že AI – AI, jak si ji představuji, ne dnešní AI – je způsob, jak se v podstatě zachovat na dobu a místo, které ještě neznáme.

skrýt