211service.com
Generální ředitel společnosti Microsoft požaduje odpovědnou umělou inteligenci, ignoruje algoritmy, které již řídí naše životy
Generální ředitel Microsoftu Satya Nadella se obává, jakou moc bude umělá inteligence ovládat naše životy. V příspěvku na Břidlice včera to doporučil počítačovému průmyslu začněte nyní přemýšlet o tom, jak navrhnout inteligentní software, aby respektoval naši lidskost .
Technologický průmysl by neměl diktovat hodnoty a přednosti této budoucnosti, napsal.
Nadella vyzval k algoritmické odpovědnosti, aby lidé mohli odčinit nezamýšlené škody. Řekl, že inteligentní software musí být navržen tak, aby nám umožnil kontrolovat jeho fungování a zabránil mu v diskriminaci určitých lidí nebo v používání soukromých dat nevhodným způsobem.
CEO Microsoftu Satya Nadella.
Jsou to ušlechtilé a racionální obavy – ale o těch měli techničtí lídři mluvit už před časem. Existuje dostatek důkazů, že algoritmy a software utvářející každodenní život již mohou být poznamenány znepokojivými předsudky.
Studie Federální obchodní komise našly známky toho rasové a ekonomické předsudky odsuzované v dobách před internetem se nyní znovu objevují v systémech napájejících cílené reklamy a další online služby. Ve Wisconsinu probíhá boj o to, proč funguje a systém, který se snaží předvídat, zda se zločinec znovu dopustí – a používá se k určení podmínek vězení – musí být uchovávány v tajnosti.
Právě dnes ACLU podala žalobu na americkou vládu jménem výzkumníků s plánem, který mají hledat rasová diskriminace v online inzerátech na práci a bydlení . Nemohou to provést kvůli omezením ve federálních zákonech o hackerství a způsobu, jakým technologické firmy píší své podmínky.
Je jasné, že některé z problémů, o kterých Nadella říká, že by mohly být vytvořeny budoucí umělou inteligencí, jsou ve skutečnosti již tady. Výzkumná pracovnice společnosti Microsoft Kate Crawford pěkně shrnula kořeny algoritmického zkreslení v nedávné době New York Times op-ed, psaní tohoto softwaru může již prohlubovat nerovnost na pracovišti doma i v našich právních a soudních systémech.
Nadella uzavírá svůj výhledový příspěvek o umělé inteligenci slovy: Nejkritičtější další krok v našem úsilí o A.I. je dohodnout se na etickém a empatickém rámci pro jeho návrh. Jaký lepší způsob, jak být připraven na budoucnost ovládanou AI, než začít pracovat na aplikaci etického a empatického rámce na hloupý software, který nás již obklopuje?
(Přečtěte si více: Břidlice , Svěrák , Ars Technica , New York Times )