Nejsme připraveni na umělou inteligenci, říká vítěz nové ceny za umělou inteligenci ve výši 1 milion dolarů

Rachel Wu / MIT CSAIL

Regina Barzilayová , profesor na MIT’s Computer Science and Artificial Intelligence Laboratory (CSAIL), je prvním vítězem ceny Squirrel AI za umělou inteligenci ve prospěch lidstva, což je nová cena, která oceňuje mimořádný výzkum v oblasti umělé inteligence. Barzilay začala svou kariéru prací na zpracování přirozeného jazyka. Poté, co v roce 2014 přežila rakovinu prsu, změnila své zaměření na algoritmy strojového učení pro detekci rakoviny a navrhování nových léků . Cenu udělí v únoru 2021 Asociace pro rozvoj umělé inteligence (AAAI).

Výhra 1 milion dolarů, kterou poskytuje Čínská online vzdělávací společnost Squirrel AI , o kterém jsme psali dříve, staví cenu na stejnou finanční úroveň jako Nobelovu cenu a Turingovu cenu za informatiku. Mluvil jsem s Barzilayem po telefonu o ceně – ao příslibu a frustracích AI.

Náš rozhovor byl z důvodu délky a srozumitelnosti upraven.

Gratuluji k tomuto ocenění. Co to znamená pro vás a pro AI obecně?

Děkuju. Víte, existuje spousta oblastí, kde umělá inteligence stále nemění, ale může být. Neustále používáme systémy strojového překladu nebo doporučující systémy, ale nikdo je nepovažuje za luxusní technologii, nikdo se na ně neptá. Ale s jinými oblastmi našeho života, které jsou zásadní pro naše blaho, jako je zdravotní péče, AI ještě není akceptována společností. Doufám, že toto ocenění a pozornost, která je s ním spojena, pomůže změnit myšlení lidí a umožní jim vidět příležitosti – a posouvá komunitu AI k dalším krokům.

Jaké druhy kroků?

Když se technologie přesunula z parní energie na elektřinu, první pokusy přinést elektřinu do průmyslu nebyly příliš úspěšné, protože lidé se jen snažili replikovat parní stroje. Myslím, že něco podobného se nyní děje s AI. Musíme vymyslet, jak to začlenit do mnoha různých oblastí: nejen do zdravotnictví, ale i do školství, materiálového designu, městského plánování a tak dále. Na technologické stránce je samozřejmě potřeba udělat více, včetně vytváření lepších algoritmů, ale přinášíme tuto technologii do vysoce regulovaných prostředí a ve skutečnosti jsme nezkoumali, jak to udělat.

Právě teď AI vzkvétá v místech, kde jsou náklady na selhání velmi nízké. Pokud vám Google najde špatný překlad nebo vám poskytne špatný odkaz, je to v pořádku; můžete jít na další. Ale to u lékaře neprojde. Pokud pacientům poskytnete špatnou léčbu nebo vynecháte diagnózu, bude to mít opravdu vážné důsledky. Mnoho algoritmů dokáže ve skutečnosti dělat věci lépe než lidé. Ale vždy věříme své vlastní intuici, vlastní mysli, víc než něčemu, čemu nerozumíme. Musíme dát lékařům důvody, aby věřili AI. FDA se na tento problém dívá, ale myslím si, že v USA nebo kdekoli jinde na světě není vyřešen.

V roce 2014 vám byla diagnostikována rakovina prsu. Změnilo to vaše myšlení o vaší práci?

Oh, ano, naprosto. Jedna z věcí, která se stala, když jsem prošel léčbou a strávil jsem v nemocnici neúměrně mnoho času, je, že věci, na kterých jsem nyní pracoval, mi připadaly triviální. Myslel jsem si: Lidé trpí. Můžeme něco udělat.

Když jsem začal s léčbou, zeptal bych se, co se stane pacientům, jako jsem já, s mým typem nádoru a mým věkem a touto léčbou. Řekli by: Ach, byla tu klinická studie, ale ty do ní přesně nesedí. A myslel jsem si, že rakovina prsu je velmi časté onemocnění. Existuje tolik pacientů s tolika nashromážděnými daty. Jak to, že to nepoužíváme? Tyto informace však ze systému v amerických nemocnicích snadno nedostanete. Je to tam, ale je to v textu. A tak jsem k tomu začal používat NLP. Neumím si představit jiné pole, kde by lidé dobrovolně zahazovali data, která jsou k dispozici. Ale to se v medicíně dělo.

Využily nemocnice šanci více využívat tato data?

Nějakou dobu trvalo najít lékaře, který by se mnou spolupracoval. Říkal jsem lidem, že pokud máte nějaký problém, pokusím se ho vyřešit. nepotřebuji finance. Dejte mi problém a data. Chvíli mi ale trvalo, než jsem našel spolupracovníky. Víte, nebyl jsem nijak zvlášť oblíbená postava.

Z této práce NLP jsem pak přešel k predikci rizika pro pacienty z mamografů, pomocí rozpoznávání snímků k předpovědi, zda dostanete rakovinu nebo ne – jak se vaše onemocnění pravděpodobně vyvine.

Změnily by se tyto nástroje, pokud byste je měli k dispozici, když jste byli diagnostikováni?

Absolutně. Můžeme to provést na mých mamografech z doby před mou diagnózou a už to tam bylo – můžete to jasně detekovat. Není to žádný zázrak – rakovina neroste ze včerejška do dneška. Je to docela dlouhý proces. Ve tkáni jsou známky, ale lidské oko má omezenou schopnost detekovat, co mohou být velmi malé vzory. V mém případě by to bylo vidět před dvěma lety.

Proč to doktor neviděl?

je to těžký úkol. Každý mamograf má bílé skvrny, které mohou nebo nemusí být rakovinou, a lékař musí rozhodnout, které z těchto bílých skvrn je třeba biopsii. Lékař musí vyvážit jednání na základě intuice a poškozování pacienta prováděním biopsií, které nejsou potřeba. Ale toto je přesně ten typ rozhodnutí, které nám umělá inteligence řízená daty může pomoci učinit mnohem systematičtěji.

Což nás přivádí zpět k problému důvěry. Potřebujeme technickou opravu, aby byly nástroje srozumitelnější, nebo musíme vzdělávat lidi, kteří je používají?

To je skvělá otázka. Některá rozhodnutí by bylo opravdu snadné vysvětlit člověku. Pokud AI detekuje na obrázku rakovinu, můžete přiblížit oblast, na kterou se model dívá, když provádí předpověď. Ale pokud požádáte stroj, jak jsme stále častěji my, aby dělal věci, které člověk nedokáže, co přesně vám stroj ukáže? Je to jako pes, který cítí mnohem lépe než my a vysvětluje, jak něco cítí. My tu kapacitu prostě nemáme. Myslím, že jak jsou stroje mnohem vyspělejší, je to velká otázka. Jaké vysvětlení by vás přesvědčilo, pokud tento úkol nedokážete vyřešit sami?

Měli bychom tedy počkat, až se AI dokáže plně vysvětlit?

Ne. Přemýšlejte o tom, jak nyní odpovídáme na otázky života a smrti. Většina lékařských otázek, například jak budete reagovat na tuto léčbu nebo na léky, je zodpovězena pomocí statistických modelů, které mohou vést k chybám. Žádný z nich není dokonalý.

S AI je to stejné. Nemyslím si, že je dobré čekat, až vyvineme dokonalou AI. Nemyslím si, že se to stane v dohledné době. Otázkou je, jak využít jeho předností a vyhnout se jeho slabinám.

A konečně, proč AI dosud neměla velký dopad na covid-19?

AI nevyřeší všechny velké problémy, které máme. Ale bylo tam několik malých příkladů. Když byly všechny nepodstatné klinické služby počátkem tohoto roku zmenšeny, použili jsme nástroj umělé inteligence, abychom určili, které onkologické pacientky v Bostonu by stále měly chodit na každoroční mamograf.

Ale hlavním důvodem, proč AI nebyla užitečnější, není nedostatek technologie, ale nedostatek dat. Víte, jsem ve vedoucím týmu J-Clinic MIT, centra pro AI ve zdravotnictví, a spousta z nás v dubnu říkala: Opravdu chceme něco udělat – kde můžeme získat data? Ale nemohli jsme to dostat. Bylo to nemožné. Ani teď, o šest měsíců později, není jasné, jak data získáváme.

Druhým důvodem je, že jsme nebyli připraveni. I za normálních okolností, kdy lidé nejsou ve stresu, je obtížné začlenit nástroje AI do procesu a ujistit se, že je vše správně regulováno. V současné krizi na to prostě nemáme.

Víte, chápu, proč jsou lékaři konzervativní: životy lidí jsou v ohrožení. Ale doufám, že to bude budíček toho, jak nejsme připraveni rychle reagovat na nové hrozby. I když si myslím, že umělá inteligence je technologií budoucnosti, pokud nepřijdeme na to, jak jí důvěřovat, neuvidíme, že by se pohnula kupředu.

skrýt