AI se učí, jak se tvořit

Lidé se snažili vyrobit skutečně inteligentní stroje. Možná je musíme nechat, aby se s tím vypořádali sami.

Shuhua Xiong

podle

• Will Douglas Heaven archivní stránka

27. května 2021

Po obrazovce se šourá malý panáček s klínovitou hlavou. Pohybuje se v polovičním přikrčení a táhne jedno koleno po zemi. Je to chůze! Er, tak nějak.

Přesto je Rui Wang potěšen. Každý den vejdu do své kanceláře a otevřu počítač a nevím, co mám čekat, říká.

Wang, výzkumník umělé inteligence ve společnosti Uber, rád opouští Spárovaný průkopník s otevřeným koncem , kus softwaru, který pomáhal vyvinout a který přes noc běžel na svém notebooku. POET je druh tréninkového dojo pro virtuální roboty. Zatím se toho vůbec moc nenaučí. Tito agenti AI nejsou hrát Go , pozorování známek rakoviny , nebo skládání proteinů – snaží se proplouvat hrubou kreslenou krajinou plotů a roklí, aniž by přepadli.

Ale to, co se roboti učí, není vzrušující – jde o to, jak se učí. POET generuje překážkové dráhy, hodnotí schopnosti robotů a zadává jejich další výzvu, to vše bez lidského zapojení. Krok za krokem se roboti zlepšují metodou pokusů a omylů. V určitém okamžiku může skočit přes útes jako mistr kung-fu, říká Wang.

V tuto chvíli se to může zdát základní, ale Wangovi a několika dalším výzkumníkům POET naznačuje revoluční nový způsob, jak vytvořit superinteligentní stroje: přimět AI, aby se sama vyrobila.

Wangův bývalý kolega Jeff Clune patří mezi největší posily této myšlenky. Clune na tom pracoval roky, nejprve na University of Wyoming a poté v Uber AI Labs, kde spolupracoval s Wangem a dalšími. Nyní dělí svůj čas mezi University of British Columbia a OpenAI a má podporu jedna z nejlepších světových laboratoří umělé inteligence .

Clune nazývá pokus vybudovat skutečně inteligentní AI nejambicióznějším vědeckým pátráním v historii lidstva. Dnes, sedm desetiletí poté, co začalo seriózní úsilí o vytvoření umělé inteligence, jsme stále ještě daleko od vytvoření strojů, které jsou téměř tak chytré jako lidé, natož chytřejší. Clune si myslí, že POET by mohl ukázat zkratku.

Musíme sundat okovy a sejít se z vlastní cesty, říká.

Pokud má Clune pravdu, pomocí AI vytvořit AI může být důležitým krokem na cestě, ke které jednoho dne vede umělá obecná inteligence (AGI) – stroje, které dokážou překonat lidi. V bližším horizontu by nám tato technika mohla také pomoci objevit různé druhy inteligence: ne-lidské chytrosti, které dokážou najít řešení neočekávaným způsobem a možná spíše doplnit naši vlastní inteligenci, než ji nahradit.

Napodobování evoluce

Poprvé jsem o této myšlence mluvil s Clunem začátkem loňského roku, jen pár týdnů po jeho přechodu na OpenAI. S radostí diskutoval o minulé práci, ale zůstal mlčenlivý ohledně toho, co dělá se svým novým týmem. Místo toho, aby hovor přijal uvnitř, raději chodil po ulicích před kancelářemi, když jsme si povídali.

Clune by řekl jen to, že OpenAI se dobře hodí. Moje představa je velmi v souladu s mnoha věcmi, kterým věří, říká. Bylo to něco jako manželství v nebi. Vize se jim líbila a chtěli, abych sem přišel a pokračoval v ní. Několik měsíců poté, co se Clune připojil, OpenAI najalo většinu jeho starého týmu Uber.

Ambiciózní vize Clune je založena na více než investicích OpenAI. Historie umělé inteligence je plná příkladů, kdy řešení navržená lidmi ustoupila řešením naučeným strojem. Vezměte si počítačové vidění: před deseti lety nastal velký průlom v rozpoznávání obrazu, když byly stávající ručně vyrobené systémy nahrazeny systémy, které se samy učily od nuly. Je to stejné pro mnoho úspěchů AI.

Jednou z fascinujících věcí na umělé inteligenci, a zejména na strojovém učení, je její schopnost nacházet řešení, která lidé nenašli - aby nás překvapil. Často zmiňovaným příkladem je AlphaGo (a jeho nástupce AlphaZero), který porazil to nejlepší, co může lidstvo nabídnout ve starověké, okouzlující hře Go tím, že využívá zdánlivě mimozemské strategie. Po stovkách let studia lidských mistrů našla AI řešení, o kterých nikdo nikdy nepřemýšlel.

Clune nyní spolupracuje s týmem OpenAI, který vyvinul roboti, kteří se naučili hrát na schovávanou ve virtuálním prostředí v roce 2018. Tyto AI začínaly s jednoduchými cíli a jednoduchými nástroji k jejich dosažení: jedna dvojice musela najít druhou, která se mohla skrývat za pohyblivými překážkami. Přesto, když byli tito roboti uvolněni, aby se učili, brzy našli způsoby, jak využít své prostředí způsoby, které výzkumníci nepředvídali. Využili závady v simulované fyzice svého virtuálního světa, aby přeskakovali a dokonce procházeli stěnami.

Tyto druhy neočekávaného vynořujícího se chování nabízejí vzrušující náznaky, že umělá inteligence by mohla dospět k technickým řešením, na která by lidé sami nepomysleli, vymýšlení nových a efektivnějších typů algoritmů nebo neuronových sítí – nebo dokonce úplné odstranění neuronových sítí, které jsou základním kamenem moderní umělé inteligence.

Clune rád lidem připomíná, že inteligence již vznikla z jednoduchých začátků. Na tomto přístupu je zajímavé, že víme, že může fungovat, říká. Velmi jednoduchý algoritmus darwinovské evoluce vytvořil váš mozek a váš mozek je nejinteligentnějším algoritmem učení ve vesmíru, jaký dosud známe. Jde mu o to, že pokud inteligence, jak ji známe, vyplynula z bezduchých mutací genů během bezpočtu generací, proč se nesnažit replikovat proces tvorby inteligence – který je pravděpodobně jednodušší – spíše než inteligenci samotnou?

Související příběh

Obecná umělá inteligence: Jsme si blízcí a má vůbec smysl to zkoušet?

Stroj, který by mohl myslet jako člověk, byl vůdčí vizí výzkumu umělé inteligence již od prvních dnů – a zůstává jeho nejrozdílnější myšlenkou.

Ale je tu ještě jeden zásadní postřeh. Inteligence nikdy nebyla konečným bodem evoluce, něčím, o co by se dalo usilovat. Místo toho se objevil v mnoha různých formách od nesčetných drobných řešení výzev, které umožnily živým tvorům přežít a přijmout budoucí výzvy. Inteligence je aktuálním vrcholem probíhajícího a otevřeného procesu. V tomto smyslu je evoluce zcela odlišná od algoritmů, jak si je lidé obvykle představují – jako prostředky k dosažení cíle.

Právě tato otevřenost, zahlédnutá ve zdánlivě bezcílné posloupnosti výzev generovaných POETem, Clune a další věří, že by mohla vést k novým druhům AI. Po celá desetiletí se výzkumníci umělé inteligence pokoušeli vytvořit algoritmy napodobující lidskou inteligenci, ale skutečný průlom může přijít ze sestavování algoritmů, které se snaží napodobovat řešení evoluce s otevřeným koncem – a sedět a sledovat, co se objeví.

Výzkumníci již používají strojové učení samo o sobě a trénují jej, aby našli řešení některých nejtěžších problémů v oboru, například jak vyrobit stroje, které se dokážou naučit více než jeden úkol najednou nebo si poradit se situacemi, se kterými se dosud nesetkali. Někteří se nyní domnívají, že tento přístup a běh s ním může být nejlepší cestou k umělé obecné inteligenci. Mohli bychom spustit algoritmus, který v sobě zpočátku nemá moc inteligence, a sledovat, jak se sám zavádí až potenciálně k AGI, říká Clune.

Pravdou je, že prozatím zůstává AGI fantazií. Ale je to hlavně proto, že nikdo neví, jak to udělat. Pokroky v AI jsou postupné a provádějí je lidé, přičemž pokrok obvykle zahrnuje vylepšení stávajících technik nebo algoritmů, což přináší postupné skoky ve výkonu nebo přesnosti. Clune charakterizuje tyto snahy jako pokusy objevit stavební kameny pro umělou inteligenci, aniž by věděli, co hledáte nebo kolik bloků budete potřebovat. A to je jen začátek. V určitém okamžiku musíme převzít herkulovský úkol dát je všechny dohromady, říká.

Požádat AI, aby pro nás tyto stavební bloky našla a sestavila, je změnou paradigmatu. Říká, že chceme vytvořit inteligentní stroj, ale je nám jedno, jak by mohl vypadat – dejte nám, co funguje.

I když AGI není nikdy dosaženo, samoukový přístup může stále změnit to, jaké druhy AI jsou vytvářeny. Svět potřebuje víc než jen velmi dobrého hráče Go, říká Clune. Vytvořit superchytrý stroj pro něj znamená vybudovat systém, který vymýšlí vlastní výzvy, řeší je a pak vymýšlí nové. BÁSNÍK je malým zábleskem toho v akci. Clune si představuje stroj, který učí robota chodit, pak hrát poskoky a pak možná hrát Go. Pak se možná naučí matematické hádanky a začne vymýšlet vlastní výzvy, říká. Systém se neustále inovuje a nebe je limitem, pokud jde o to, kam by mohl jít.

Možná je to divoká spekulace, ale jednou z nadějí je, že stroje jako tento by mohly být schopny se vyhnout našim koncepčním slepým uličkám a pomoci nám odhalit nesmírně složité krize, jako je změna klimatu nebo globální zdraví.

Nejprve si ale musíme jednu vyrobit.

Jak vytvořit mozek

Existuje mnoho různých způsobů, jak zapojit umělý mozek.

Neuronové sítě jsou tvořeny více vrstvami umělých neuronů zakódovaných v softwaru. Každý neuron může být spojen s ostatními ve vrstvách výše. Způsob, jakým je neuronová síť zapojena, je velkým rozdílem a nové architektury často vedou k novým průlomům.

Neuronové sítě kódované lidskými vědci jsou často výsledkem pokusů a omylů. Existuje jen malá teorie o tom, co funguje a co nefunguje, a žádná záruka, že byly nalezeny ty nejlepší návrhy. To je důvod, proč je automatizace hledání lepších návrhů neuronových sítí jedním z nejžhavějších témat v AI přinejmenším od 80. let. Nejběžnějším způsobem automatizace procesu je nechat AI generovat mnoho možných návrhů sítě a nechat síť automaticky vyzkoušet každý z nich a vybrat ty nejlepší. To je běžně známé jako neuro-evoluce nebo vyhledávání neuronové architektury (NAS).

V posledních několika letech tyto konstrukce strojů začaly překonávat ty lidské. V roce 2018 Esteban Real a jeho kolegové z Google použili NAS k vytvoření neuronové sítě pro rozpoznávání obrázků, které porazit ty nejlepší sítě navržené lidmi v době, kdy. To bylo otevření očí.

Systém pro rok 2018 je součástí probíhajícího projektu Google s názvem AutoML, který také použil NAS k vytvoření EfficientNets, rodiny modelů hlubokého učení, které jsou účinnější než ty, které vytvořil člověk , dosažení vysoké úrovně přesnosti při úlohách rozpoznávání obrazu s menšími a rychlejšími modely.

Po třech letech Real posouvá hranice toho, co lze vytvořit od nuly. Dřívější systémy jen přeskupily osvědčené a testované části neuronové sítě, jako jsou existující typy vrstev nebo komponent. Můžeme očekávat dobrou odpověď, říká.

Minulý rok Real a jeho tým sundali tréninková kola. Nový systém, tzv AutoML Zero , se snaží vybudovat AI od základů s použitím pouze nejzákladnějších matematických konceptů, které řídí strojové učení.

Překvapivě nejen že AutoML Zero spontánně vybudovalo neuronovou síť, ale přišlo s gradientním sestupem, nejběžnější matematickou technikou, kterou lidští designéři používají k trénování sítě. Docela mě to překvapilo, říká Real. Je to velmi jednoduchý algoritmus – trvá to šest řádků kódu – ale napsal přesně šest řádků.

AutoML Zero zatím negeneruje architektury, které by konkurovaly výkonu systémů navržených člověkem – nebo skutečně nedělá mnoho, co by lidský návrhář neudělal. Real ale věří, že by to jednou mohlo.

Je čas vyškolit nový druh učitelů

Nejprve vytvoříte mozek; pak to musíte naučit. Ale strojové mozky se neučí tak, jak se učí naše. Náš mozek se skvěle přizpůsobuje novému prostředí a novým úkolům. Dnešní umělé inteligence mohou za určitých podmínek řešit problémy, ale selhávají, když se tyto podmínky jen trochu změní. Tato nepružnost brzdí snahu vytvořit zobecnitelnější umělou inteligenci, která může být užitečná v celé řadě scénářů, což by byl velký krok k tomu, aby byly skutečně inteligentní.

Pro Jane Wangovou, výzkumnici z DeepMind v Londýně, je nejlepší způsob, jak učinit umělou inteligenci flexibilnější, přimět ji, aby se sama naučila tuto vlastnost. Jinými slovy, chce vybudovat AI, která se nejen učí konkrétní úkoly, ale učí se je učit způsoby, které lze přizpůsobit novým situacím.

Vědci se již roky snaží učinit AI přizpůsobivější. Wang si myslí, že přimět umělou inteligenci, aby tento problém zvládla sama, se vyhne některým pokusům a omylům ručně navrženého přístupu: Nemůžeme očekávat, že hned narazíme na správnou odpověď. Doufá, že během toho se také dozvíme více o tom, jak fungují mozky. Stále je toho tolik, čemu nerozumíme o způsobu, jakým se lidé a zvířata učí, říká.

Existují dva hlavní přístupy k automatickému generování výukových algoritmů, ale oba začínají se stávající neuronovou sítí a používají AI k jejich výuce.

Související příběh

AI vyzbrojená více smysly by mohla získat flexibilnější inteligenci

Lidská inteligence vychází z naší kombinace smyslů a jazykových schopností. Možná totéž platí pro umělou inteligenci.

První přístup, vynalezený samostatně Wang a její kolegové z DeepMind a podle tým v OpenAI přibližně ve stejnou dobu využívá rekurentní neuronové sítě. Tento typ sítě lze trénovat takovým způsobem, že aktivace jejich neuronů – zhruba podobné vystřelování neuronů v biologických mozcích – kódují jakýkoli typ algoritmu. DeepMind a OpenAI toho využily k trénování rekurentní neuronové sítě ke generování algoritmů zesíleného učení, které říkají AI, jak se chovat, aby dosáhla daných cílů.

Výsledkem je, že systémy DeepMind a OpenAI se neučí algoritmus, který řeší konkrétní problém, jako je rozpoznávání obrázků, ale učí se učení se algoritmus, který lze aplikovat na více úloh a průběžně se přizpůsobovat. Je to jako staré přísloví o tom, jak někoho naučit rybařit: zatímco ručně navržený algoritmus se může naučit konkrétní úkol, tyto umělé inteligence jsou vytvořeny tak, aby se naučily samy učit. A některé z nich fungují lépe než ty, které navrhl člověk.

Druhý přístup pochází od Chelsea Finnové z Kalifornské univerzity v Berkeley a jejích kolegů. Volala modelově agnostické metaučení , nebo MAML, trénuje model pomocí dvou procesů strojového učení, jednoho vnořeného do druhého.

Zhruba, tady je návod, jak to funguje. Vnitřní proces v MAML je trénován na datech a poté testován – jako obvykle. Pak ale vnější model převezme výkon vnitřního modelu – jak dobře identifikuje obrázky, řekněme – a použije jej k tomu, aby se naučil, jak upravit algoritmus učení tohoto modelu pro zvýšení výkonu. Je to, jako byste měli školního inspektora, který dohlíží na spoustu učitelů, z nichž každý nabízí jiné techniky učení. Inspektor kontroluje, které techniky pomáhají studentům získat nejlepší skóre, a podle toho je vylepšuje.

Prostřednictvím těchto přístupů vědci vytvářejí AI, která je robustnější, obecnější a schopná se učit rychleji s menším množstvím dat. Finn chce například robota, který se naučil chodit po rovné zemi, aby byl schopen s minimálním tréninkem navíc přejít na chůzi po svahu nebo po trávě nebo při přenášení nákladu.

V loňském roce Clune a jeho kolegové rozšířili Finnovu techniku ​​o návrh algoritmu, který se učí pomocí menšího počtu neuronů, aby nepřepsal vše, co se naučil dříve, což je velký nevyřešený problém ve strojovém učení známý jako katastrofické zapomínání. Trénovaný model, který používá méně neuronů, známý jako řídký model, bude mít po přeškolení více nevyužitých neuronů, které se budou věnovat novým úkolům, což znamená, že bude přepsáno méně použitých neuronů. Clune zjistil, že když svou umělou inteligenci postavil na výzvu naučit se více než jeden úkol, vedlo ho k tomu, že přišel s vlastní verzí řídkého modelu, který překonal ty, které vytvořili lidé.

Pokud se pustíme do toho, že necháme AI, aby se sama tvořila a učila, pak by AI měla také vytvářet svá vlastní školicí prostředí – školy a učebnice, stejně jako plány lekcí.

A minulý rok byl svědkem řady projektů, ve kterých byla umělá inteligence vyškolena na automaticky generovaných datech. Systémy rozpoznávání tváří se trénují například s tvářemi generovanými umělou inteligencí. AI se také učí, jak se navzájem trénovat. V jednom nedávném příkladu dvě robotická ramena pracovali společně, přičemž se jedna ruka učila zadávat těžší a těžší úkoly při skládání bloků, které trénovaly druhou ruku k uchopení a uchopení předmětů.

Ve skutečnosti se Clune ptá, zda lidská intuice o tom, jaký druh dat potřebuje AI, aby se mohla učit, může být mimo. Například on a jeho kolegové vyvinuli to, co nazývá generativní výukové sítě , které se naučí, jaká data by měli generovat, aby při trénování modelu dosáhli nejlepších výsledků. V jednom experimentu použil jednu z těchto sítí k přizpůsobení datové sady ručně psaných čísel, která se často používá k trénování algoritmů rozpoznávání obrázků. To, s čím přišel, vypadalo velmi odlišně od původního souboru dat spravovaného lidmi: stovky ne zcela číslic, jako je horní polovina číslice sedm nebo to, co vypadalo jako dvě číslice, sloučené dohromady. Některé příklady vytvořené AI bylo těžké vůbec rozluštit. Navzdory tomu data generovaná AI stále odváděla skvělou práci při trénování systému rozpoznávání rukopisu, aby identifikoval skutečné číslice.

Nesnažte se uspět

Data generovaná umělou inteligencí jsou stále jen částí skládačky. Dlouhodobou vizí je vzít všechny tyto techniky – a další, které ještě nebyly vynalezeny – a předat je trenérovi umělé inteligence, který řídí, jak jsou umělé mozky zapojeny, jak jsou trénovány a na co jsou trénovány. Ani Clune nemá jasno v tom, jak by takový budoucí systém vypadal. Někdy mluví o jakémsi hyperrealistickém simulovaném sandboxu, kde si umělá inteligence může prořezat zuby a stáhnout si virtuální kolena. Něco tak složitého je ještě roky pryč. Nejbližší věc je zatím POET, systém Clune vytvořený s Rui Wangem z Uberu a dalšími.

BÁSNÍK byl motivován paradoxem, říká Wang. Pokud se pokusíte vyřešit problém, selžete; pokud se to nepokusíte vyřešit, je pravděpodobnější, že uspějete. Toto je jeden z poznatků, který Clune bere ze své analogie s evolucí – úžasné výsledky, které vyplývají ze zdánlivě náhodného procesu, často nelze znovu vytvořit záměrnými kroky ke stejnému cíli. Není pochyb o tom, že motýli existují, ale vraťte se zpět k jejich jednobuněčným prekurzorům a pokuste se je vytvořit od nuly výběrem každého kroku od bakterie po brouka, a pravděpodobně neuspějete.

POET startuje svého dvounohého agenta v jednoduchém prostředí, jako je rovná cesta bez překážek. Agent nejprve neví, co má dělat s nohama a nemůže chodit. Ale pomocí pokusů a omylů se algoritmus učení s posilováním, který jej řídí, naučí, jak se pohybovat po rovné zemi. POET pak vygeneruje nové náhodné prostředí, které je odlišné, ale není nutně obtížnější se do něj nastěhovat. Agent se tam pokusí projít. Pokud se v tomto novém prostředí objeví překážky, agent se naučí, jak je překonat nebo překonat. Pokaždé, když agent uspěje nebo uvízne, je přesunut do nového prostředí. Postupem času se agenti naučí řadu chůzí a skákání, které jim umožňují procházet stále těžšími překážkovými dráhami.

Tým zjistil, že náhodné přepínání prostředí bylo zásadní.

Agenti se například někdy naučili chodit po rovné zemi s podivným šoupáním na kolenou, protože to bylo dost dobré. Nikdy se nenaučí vstát, protože to nikdy nepotřebují, říká Wang. Ale poté, co byli nuceni naučit se alternativní strategie na překážkách poseté půdě, mohli se vrátit do raného stádia s lepším způsobem chůze – řekněme používat obě nohy místo tažení jedné za sebou – a pak vzít tuto vylepšenou verzi sebe vpřed. k těžším výzvám.

POET trénuje své roboty způsobem, který by to neudělal žádný člověk – k úspěchu se vydává nevyzpytatelnými a neintuitivními cestami. V každé fázi se roboti snaží najít řešení jakékoli výzvy, která je před nimi stojí. Tím, že se vyrovnávají s náhodným výběrem překážek, které jim házejí do cesty, se celkově zlepšují. Tento proces však nemá žádný konečný bod, žádný konečný test, který by bylo třeba složit, ani vysoké skóre, které by bylo třeba překonat.

Clune, Wang a řada jejich kolegů věří, že jde o hluboký vhled. Nyní zkoumají, co by to mohlo znamenat pro vývoj superinteligentních strojů. Mohl by zkusit ne zmapovat konkrétní cestu je ve skutečnosti klíčovým průlomem na cestě k umělé obecné inteligenci?

POET již inspiruje další výzkumníky, jako jsou Natasha Jaques a Michael Dennis z University of California v Berkeley. Vyvinuli systém tzv PÁROVÁNO která používá AI ke generování série bludišť, aby trénovala další AI, aby je navigovala.

Rui Wang si myslí, že výzvy vytvořené lidmi budou překážkou a že skutečný pokrok v AI bude vyžadovat, aby AI přišla s vlastními. Bez ohledu na to, jak dobré jsou dnes algoritmy, jsou vždy testovány na nějakém ručně navrženém benchmarku, říká. Je velmi těžké si představit umělou obecnou inteligenci, která by z toho vycházela, protože je vázána pevnými cíli.

Nový druh inteligence

Rychlý rozvoj umělé inteligence, která se dokáže trénovat, také vyvolává otázky, jak dobře můžeme kontrolovat její růst. Myšlenka umělé inteligence, která vytváří lepší umělou inteligenci, je klíčovou součástí vytváření mýtů za Singularitou, představovaným bodem v budoucnosti, kdy se umělé inteligence začnou zlepšovat exponenciální rychlostí a přestanou se ovládat. Nakonec, někteří zhoubci varují, AI se může rozhodnout, že lidi vůbec nepotřebuje.

To žádný z těchto výzkumníků nemá na mysli: jejich práce se velmi zaměřuje na vylepšování dnešní umělé inteligence. Stroje, které řádí, zůstávají vzdálenou antifantasy.

I tak má Jane Wang z DeepMind výhrady. Velká část přitažlivosti používání AI k vytváření AI spočívá v tom, že může přijít s návrhy a technikami, o kterých lidé ani neuvažovali. Přesto Wang poznamenává, že ne všechna překvapení jsou dobrá překvapení: Otevřenost je podle definice něco, co je neočekávané. Pokud je hlavním cílem přimět AI, aby udělala něco, co jste neočekávali, bude těžší to ovládat. To je vzrušující i děsivé, říká.

Clune také zdůrazňuje, že je důležité od začátku přemýšlet o etice nové technologie. Existuje velká šance, že neuronové sítě a algoritmy navržené umělou inteligencí budou ještě hůře srozumitelné než dnešní již neprůhledné systémy černé skříňky. Jsou AI generované algoritmy obtížnější audit pro podjatost ? Je těžší zaručit, že se nebudou chovat nežádoucím způsobem?

Clune doufá, že takové otázky budou položeny a zodpovězeny, až si více lidí uvědomí potenciál samogenerujících se AI. Většina lidí v komunitě strojového učení nikdy ve skutečnosti nemluví o naší celkové cestě k extrémně výkonné umělé inteligenci, říká – místo toho se zaměřují na malá, postupná vylepšení. Clune chce znovu zahájit konverzaci o největších ambicích tohoto pole.

Jeho vlastní ambice jsou spojeny s jeho ranými zájmy o lidskou inteligenci a její vývoj. Jeho velkou vizí je nastavit věci tak, aby stroje mohly jednoho dne vidět, jak se jejich vlastní inteligence – nebo inteligence – vynořují a zlepšují prostřednictvím nesčetných generací pokusů a omylů, řízených algoritmy, které nemají na mysli žádný konečný plán.

Pokud AI začne generovat inteligenci sama, neexistuje žádná záruka, že bude jako člověk. Namísto toho, aby lidé učili stroje myslet jako lidé, mohou stroje naučit lidi nové způsoby myšlení.

Pravděpodobně existuje velké množství různých způsobů, jak být velmi inteligentní, říká Clune. Jedna z věcí, které mě na AI vzrušují, je to, že můžeme pochopit inteligenci obecněji, když uvidíme, jaké variace jsou možné.

Myslím, že je to fascinující. Chci říct, je to skoro jako vymýšlet mezihvězdné cestování a mít možnost navštívit cizí kultury. V dějinách lidstva by nebyl větší okamžik než setkání s mimozemskou rasou a poznání její kultury, vědy, všeho. Mezihvězdné cestování je nesmírně obtížné, ale máme schopnost potenciálně vytvářet mimozemské inteligence digitálně.