211service.com
Paul Allen: Singularita není blízko
Futuristé mají rádi Vernor Vinge a Ray Kurzweil tvrdili, že svět se rychle blíží k bodu zlomu, kdy zrychlující se tempo chytřejších a chytřejších strojů brzy překročí všechny lidské schopnosti. Tento bod zlomu nazývají jedinečnost , protože věří, že je nemožné předpovědět, jak by se od tohoto okamžiku mohla vyvíjet lidská budoucnost. Jakmile budou tyto stroje existovat, tvrdí Kurzweil a Vinge, budou mít nadlidskou inteligenci, která je pro nás tak nepochopitelná, že ani nedokážeme racionálně odhadnout, jak by se změnily naše životní zkušenosti. ptá se Vinge abychom se zamysleli nad rolí lidí ve světě, kde jsou stroje stejně chytřejší než my, jako jsme my chytřejší než naši psi a kočky. Kurzweil, který je o něco optimističtější, předvídá budoucnost ve kterém nám vývoj v lékařské nanotechnologii umožní stáhnout kopii našich individuálních mozků do těchto nadlidských strojů, opustit naše těla a v jistém smyslu žít navždy. je to opojná věc.
Credit: Technology Review
I když předpokládáme, že by se tento druh singularity mohl jednoho dne objevit, nemyslíme si, že je blízko. Ve skutečnosti si myslíme, že to bude ještě hodně dlouho trvat. Kurzweil na základě svých extrapolací o míře relevantního vědeckého a technického pokroku nesouhlasí. Zdůvodňuje, že rychlost pokroku směrem k singularitě není jen progresí neustále rostoucích schopností, ale ve skutečnosti se exponenciálně zrychluje – to, co Kurzweil nazývá Zákon zrychlujících se návratů . Píše, že:
Takže v 21. století nezažijeme 100 let pokroku – bude to spíše 20 000 let pokroku (dnešním tempem). Výnosy, jako je rychlost čipu a nákladová efektivita, také rostou exponenciálně. Existuje dokonce exponenciální růst tempa exponenciálního růstu. Během několika desetiletí strojová inteligence překoná lidskou inteligenci, což povede k Singularitě… [jeden]
Kurzweil pomocí sady modelů a historických dat skvěle vypočítává, že singularita dorazí kolem roku 2045.
Tato předpověď se nám zdá dost přitažená za vlasy. Samozřejmě jsme si vědomi toho, že historie vědy a techniky je plná lidí, kteří sebevědomě tvrdí, že nějaká událost se nemůže stát, jen aby se později ukázalo, že je špatná – často velkolepým způsobem. Uznáváme, že je možné, ale vysoce nepravděpodobné, že Kurzweil bude nakonec ospravedlněn. Dospělý mozek je omezená věc, takže jeho základní fungování lze nakonec poznat prostřednictvím trvalého lidského úsilí. Má-li však singularita dorazit do roku 2045, bude to vyžadovat nepředvídatelné a zásadně nepředvídatelné průlomy, a ne proto, že zákon zrychlujících se návratů z ní učinil nevyhnutelný výsledek specifické exponenciální rychlosti pokroku.
Kurzweilova úvaha spočívá na zákonu zrychlujících se návratů a jeho sourozencích, ale nejde o fyzikální zákony. Jsou to tvrzení o tom, jak minulé míry vědeckého a technického pokroku mohou předpovídat budoucí míru. Proto, stejně jako jiné pokusy předpovídat budoucnost z minulosti, budou tyto zákony fungovat, dokud nebudou. Problematičtější pro singularitu je to, že tyto druhy extrapolací odvozují velkou část svého celkového exponenciálního tvaru z předpokladu, že bude existovat neustálý přísun stále výkonnějších výpočetních schopností. Aby zákon mohl platit a k výjimečnosti došlo přibližně v roce 2045, musí k pokroku ve schopnostech dojít nejen v hardwarových technologiích počítače (paměť, výpočetní výkon, rychlost sběrnice atd.), ale také v softwaru, který vytvoříme, aby na nich běžel. schopnější počítače. K dosažení singularity nestačí pouze spouštět dnešní software rychleji. Potřebovali bychom také vytvořit chytřejší a schopnější softwarové programy. Vytváření tohoto druhu pokročilého softwaru vyžaduje předchozí vědecké pochopení základů lidského poznání a my to jen škrábeme z povrchu.
Tato předchozí potřeba porozumět základní vědě o poznání je tam, kde se jedinečnost blíží argumentům, které nás nepřesvědčí. Je pravda, že technologie počítačového hardwaru se může vyvinout úžasně rychle, jakmile budeme mít pevný vědecký rámec a přiměřené ekonomické pobídky. Vytvoření softwaru pro skutečnou počítačovou inteligenci na úrovni singularity však bude vyžadovat zásadní vědecký pokrok nad rámec dnešního stavu. Tento druh pokroku je velmi odlišný od vývoje schopností počítačového hardwaru ve stylu Moorova zákona, který inspiroval Kurzweila a Vinge. Vytvoření komplexního softwaru, který by umožnil vznik singularity, vyžaduje, abychom nejprve měli podrobné vědecké znalosti o tom, jak funguje lidský mozek, což můžeme použít jako architektonického průvodce, nebo si to celé vytvořit. znovu . To znamená nejen znát fyzickou strukturu mozku, ale také to, jak mozek reaguje a mění se a jak miliardy paralelních interakcí neuronů mohou vyústit v lidské vědomí a originální myšlení. Získat tento druh komplexního porozumění mozku není nemožné. Pokud se však singularita objeví na něčem podobném Kurzweilově časové ose, pak absolutně potřebujeme masivní zrychlení našeho vědeckého pokroku v pochopení každého aspektu lidského mozku.
Ale historie nám říká, že proces původního vědeckého objevu se takto prostě nechová, zvláště ve složitých oblastech, jako je neurověda, jaderná fúze nebo výzkum rakoviny. Celkový vědecký pokrok v porozumění mozku jen zřídka připomíná uspořádaný, neúprosný pochod k pravdě, natož exponenciálně se zrychlující pochod. Místo toho jsou vědecké pokroky často nepravidelné, s nepředvídatelnými záblesky vhledu, které přerušují pomalou laboratorní práci při vytváření a testování teorií, které se hodí k experimentálním pozorováním. Skutečně významné koncepční průlomy nepřicházejí, když jsou předpovězeny, a častým polem se provalí nová vědecká paradigmata a nutí vědce přehodnocovat části toho, co si mysleli, že se usadili. Vidíme to v neurovědách s objevem dlouhodobé potenciace, sloupcovité organizace kortikálních oblastí a neuroplasticity. Tyto druhy zásadních posunů nepodporují celkové zrychlení ve stylu Moorova zákona potřebné k dosažení singularity podle Kurzweilova plánu.
Komplexní brzda
Výše uvedené ukazuje na základní problém, jak rychle lze vyvinout vědecky adekvátní popis lidské inteligence. Tento problém nazýváme brzda složitosti . Jak jdeme hlouběji a hlouběji v našem chápání přírodních systémů, obvykle zjišťujeme, že k jejich charakterizaci potřebujeme stále více specializovaných znalostí a jsme nuceni neustále rozšiřovat naše vědecké teorie stále složitějšími způsoby. Pochopení detailních mechanismů lidského poznání je úkolem, který podléhá této brzdě složitosti. Jen se zamyslete nad tím, co je potřeba k důkladnému pochopení lidského mozku na mikroúrovni. Složitost mozku je prostě úžasná. Každá struktura byla přesně tvarována miliony let evoluce, aby mohla dělat konkrétní věc, ať už je jakákoli. Není to jako počítač s miliardami identických tranzistorů v běžných paměťových polích, které jsou řízeny CPU s několika různými prvky. V mozku byla každá jednotlivá struktura a nervový okruh individuálně zušlechtěna evolucí a faktory prostředí. Čím blíže se podíváme na mozek, tím větší míru neurální variace nacházíme. Pochopení nervové struktury lidského mozku je stále těžší, jak se dozvídáme více. Jinými slovy, čím více se učíme, tím více si uvědomujeme, že je třeba vědět, a tím více se musíme vracet a revidovat naše dřívější porozumění. Věříme, že jednoho dne tento neustálý nárůst složitosti skončí – mozek je koneckonců omezená množina neuronů a funguje podle fyzikálních principů. Ale v dohledné budoucnosti bude tempo vědeckého pokroku potřebného k dosažení singularity řídit brzda složitosti a příchod nových mocných teorií, spíše než zákon zrychlujících se návratů.
I když si tedy myslíme, že jemnozrnné pochopení nervové struktury mozku je nakonec dosažitelné, neukázalo se, že je to druh oblasti, ve které bychom mohli dosáhnout exponenciálně zrychlujícího se pokroku. Ale předpokládejme, že vědci udělají nějaký skvělý pokrok v technologii skenování mozku. Zastánci singularity často tvrdí, že můžeme dosáhnout počítačové inteligence pouhým numerickým simulováním mozku zdola nahoru z podrobného obrázku na nervové úrovni. Kurzweil například předpovídá vývoj nedestruktivních mozkových skenerů, které nám umožní přesně pořídit snímek živého mozku člověka na úrovni subneuronu. Navrhuje že tyto skenery by s největší pravděpodobností fungovaly zevnitř mozku prostřednictvím milionů injekčních lékařských nanobotů. Ale bez ohledu na to, zda skenování založené na nanobotech uspěje (a nejsme ani blízko toho, abychom věděli, zda je to možné), Kurzweil v podstatě tvrdí, že jde o potřebný vědecký pokrok, který zabrání singularitě: počítače mohou jednoduše vykazovat inteligenci na lidské úrovni. načtením stavu a konektivity každého z mozkových neuronů do masivního digitálního mozkového simulátoru, připojením vstupů a výstupů a stisknutím start.
Obtížnost vytváření softwaru na lidské úrovni však sahá hlouběji než výpočetní modelování strukturálních spojení a biologie každého z našich neuronů. Strategie duplikace mozku, jako jsou tyto, předpokládají, že neexistuje žádný zásadní problém při získávání lidského poznání, kromě dostatečného výkonu počítače a map struktury neuronů k provedení simulace. [dva] I když to může být teoreticky pravda, v praxi to tak nefungovalo, protože to neřeší vše, co je skutečně potřeba k vytvoření softwaru. Pokud bychom například chtěli vytvořit software pro simulaci schopnosti ptáka létat v různých podmínkách, nestačí mít pouze kompletní schéma anatomie ptáka. Abychom mohli plně simulovat let skutečného ptáka, musíme také vědět, jak vše dohromady funguje. V neurovědě existuje paralelní situace. Byly provedeny stovky pokusů (za použití mnoha různých organismů) spojit simulace různých neuronů spolu s jejich chemickým prostředím. Jednotným výsledkem těchto pokusů je, že k vytvoření adekvátní simulace skutečné probíhající nervové aktivity organismu potřebujete také obrovské množství znalostí o funkční roli, kterou tyto neurony hrají, jak se vyvíjejí jejich vzorce připojení, jak jsou strukturovány do skupin, aby přeměnily surové podněty na informace, a jak neurální zpracování informací nakonec ovlivňuje chování organismu. Bez těchto informací se ukázalo nemožné vytvořit efektivní počítačové simulační modely. Zejména pro kognitivní neurovědy lidí nejsme blízko požadované úrovni funkčních znalostí. Mozek simulační projekty probíhající dnes modelují pouze malý zlomek toho, co neurony dělají, a postrádají detaily, aby plně simulovaly to, co se děje v mozku. Tempo výzkumu v této oblasti, i když je povzbuzující, se zdá být stěží exponenciální. Opět, jak se stále více dozvídáme o skutečné složitosti fungování mozku, hlavní věc, kterou zjišťujeme, je, že problém je ve skutečnosti stále těžší.
Přístup AI
Zastánci singularity občas apelují na vývoj umělé inteligence (AI) jako na způsob, jak obejít pomalou rychlost celkového vědeckého pokroku v přístupech k poznání založených zdola nahoru na neurovědách. Je pravda, že umělá inteligence má velké úspěchy v duplikování určitých izolovaných kognitivních úkolů, naposledy s Systém Watson od IBM pro Ohrožení! zodpovězení otázky. Ale když uděláme krok zpět, můžeme vidět, že ani celkové schopnosti založené na AI se exponenciálně nezvýšily, alespoň když se poměří s vytvořením plně obecné lidské inteligence. I když jsme se naučili hodně o tom, jak budovat jednotlivé systémy umělé inteligence, které dělají zdánlivě inteligentní věci, naše systémy vždy zůstaly křehký —jejich výkonové hranice jsou pevně stanoveny jejich vnitřními předpoklady a definujícími algoritmy, nedokážou zobecnit a často dávají nesmyslné odpovědi mimo své specifické oblasti zájmu. Počítačový program, který hraje vynikající šachy, nemůže využít své dovednosti k hraní jiných her. Nejlepší programy lékařské diagnostiky obsahují nesmírně podrobné znalosti o lidském těle, ale nedokážou odvodit, že by provazochodec měl skvělý smysl pro rovnováhu.
Proč se pro výzkumníky AI ukázalo tak obtížné vybudovat inteligenci podobnou lidské, a to i v malém měřítku? Jedna odpověď zahrnuje základní vědecký rámec, který výzkumníci AI používají. Jak lidé rostou z kojenců do dospělých, začínají získáváním obecných znalostí o světě a poté tyto obecné znalosti průběžně rozšiřují a zdokonalují o konkrétní znalosti o různých oblastech a kontextech. Výzkumníci umělé inteligence se obvykle pokoušeli o opak: vytvořili systémy s hlubokými znalostmi úzkých oblastí a pokusili se vytvořit obecnější schopnosti kombinací těchto systémů. Tato strategie nebyla obecně úspěšná, ačkoli výkon Watsona pokračoval Ohrožení! naznačuje, že takové cesty mohou být slibné. Těch několik pokusů, které byly učiněny, přímo vytvořit velké množství obecných znalostí o světě a poté přidat specializované znalosti z domény (např. Cycorp ), se také setkaly s pouze omezeným úspěchem. A v každém případě výzkumníci umělé inteligence teprve začínají teoretizovat o tom, jak efektivně modelovat složité jevy, které dávají lidskému poznání jeho jedinečnou flexibilitu: nejistota, kontextová citlivost, základní pravidla, sebereflexe a záblesky vhledu, které jsou zásadní. k myšlení vyšší úrovně. Stejně jako v neurovědě se zdá, že cesta založená na AI k dosažení počítačové inteligence na úrovni singularity vyžaduje mnohem více objevů, některé nové teorie Nobelovy kvality a pravděpodobně i celé nové výzkumné přístupy, které nejsou úměrné tomu, čemu nyní věříme. Tento druh základního vědeckého pokroku se neděje na spolehlivé křivce exponenciálního růstu. Takže ačkoli vývoj v AI může nakonec skončit jako cesta k singularitě, brzda složitosti opět zpomaluje naše tempo pokroku a posouvá singularitu značně do budoucnosti.
Úžasná složitost lidského poznání by měla sloužit jako varování pro ty, kteří tvrdí, že singularita je blízko. Bez vědecky hlubokého porozumění poznání nemůžeme vytvořit software, který by mohl zažehnout singularitu. Spíše než stále se zrychlující pokrok předpovídaný Kurzweilem věříme, že pokrok směrem k tomuto porozumění je zásadně zpomalen brzdou složitosti. Naše schopnost dosáhnout tohoto porozumění, buď pomocí AI nebo neurovědních přístupů, je sama o sobě lidským kognitivním aktem, který vychází z nepředvídatelné povahy lidské vynalézavosti a objevů. Pokrok je zde hluboce ovlivněn způsoby, kterými náš mozek absorbuje a zpracovává nové informace, a kreativitou výzkumníků při vymýšlení nových teorií. Řídí se také způsoby, jak společensky organizujeme výzkumnou práci v těchto oblastech a šíříme poznatky, které jsou výsledkem. Na Vulkán a na Allenův institut pro vědu o mozku pracujeme na pokročilých nástrojích, které výzkumníkům pomohou vypořádat se s touto skličující složitostí a urychlí jejich výzkum. Získání komplexního vědeckého porozumění lidskému poznání je jedním z nejtěžších problémů. Pokračujeme v povzbudivém pokroku. Ale věříme, že do konce století budeme stále přemýšlet, zda je singularita blízko.
Paul G. Allen, který v roce 1975 spoluzaložil Microsoft, je filantrop a předseda představenstva společnosti Vulcan, která investuje do řady technologií, letectví, zábavy a sportu. Mark Greaves je počítačový vědec, který slouží jako Vulcanův ředitel pro znalostní systémy.
[jeden] Kurzweil, The Law of Accelerating Returns, březen 2001.
[dva] Začínáme se dostávat na dosah počítačového výkonu, který bychom mohli potřebovat k podpoře tohoto druhu masivní simulace mozku. Počítače třídy Petaflop (jako je IBM BlueGene/P, který byl použit v systému Watson) jsou nyní komerčně dostupné. Počítače třídy Exaflop jsou v současnosti na rýsovacích prknech. Tyto systémy by pravděpodobně mohly využít nezpracovanou výpočetní kapacitu potřebnou k simulaci vzorců střelby pro všechny mozkové neurony, i když v současnosti se to děje mnohokrát pomaleji, než by se to stalo ve skutečném mozku.
AKTUALIZACE: Ray Kurzweil odpovídá zde .