211service.com
Výzkumníci AI emocí tvrdí, že přehnaná tvrzení dělají jejich práci špatné jméno
Ilustrace. Vlevo roztroušené výřezy částí obličeje, jako jsou oči a ústa, obsažené v krabici. Uprostřed: úplný obličej, zavřené oči. Vpravo: síť ve tvaru hlavy. Franziska Barczyková
Možná jste slyšeli o AI, která vede rozhovory. Nebo s vámi možná někdo udělal rozhovor. Společnosti jako HireVue tvrdí, že jejich software dokáže analyzovat video pohovory, aby zjistil kandidáta skóre zaměstnatelnosti . Algoritmy nevyhodnocují pouze vzhled obličeje a těla; zaměstnavatelům také sdělí, zda je dotazovaný houževnatý nebo dobrý v práci v týmu . Tato hodnocení mohou mít velký vliv na budoucnost kandidáta. V NÁS a Jižní Korea , kde je najímání za pomoci umělé inteligence stále populárnější, kariérní poradci nyní školí nové absolventy a uchazeče o zaměstnání, jak vést pohovory pomocí algoritmu. Tato technologie je také nasazena na děti ve třídách a byl použit ve studiích k odhalení podvodu ve videích ze soudní síně .
Mnohé z těchto slibů však nejsou podpořeny vědeckým konsensem. Neexistují žádné silné recenzované studie, které by dokazovaly, že analýza držení těla nebo výrazů obličeje může pomoci vybrat nejlepší pracovníky nebo studenty (částečně proto, že společnosti své metody tají). Výsledkem je humbuk kolem rozpoznávání emocí, což je p Předpokládá se, že do roku 2023 bude mít trh 25 miliard dolarů vyvolala odpor mezi technickými etiky a aktivisty, kteří se obávají, že by tato technologie mohla způsobit stejné druhy problémů s diskriminací jako prediktivní trestání nebo algoritmy bydlení pro pronajímatele, kteří se rozhodují, komu je pronajmout.
Tento humbuk znepokojuje i výzkumníky. Mnozí souhlasí s tím, že jejich práce – která využívá různé metody (jako je analýza mikrovýrazů nebo hlasu) k rozpoznání a interpretaci lidských výrazů – je kooptována a používána v komerčních aplikacích, které mají ve vědě nejistý základ. Říkají, že nedostatek vládní regulace není špatný jen pro spotřebitele. Je to špatné i pro ně.
Dobrou i špatnou
Rozpoznávání emocí, podmnožina afektivního počítání, je stále rodící se technologií. Zatímco výzkumníci umělé inteligence testovali hranice toho, co můžeme a co nemůžeme kvantifikovat o lidském chování, základní věda o emocích se nadále vyvíjela. Stále existuje několik teorií, například o tom, zda lze emoce rozlišovat diskrétně nebo zda spadat do kontinua. Mezitím stejné výrazy mohou v různých kulturách znamenat různé věci. V červenci a metastudie dospěl k závěru, že není možné posuzovat emoce pouhým pohledem na tvář člověka. Studie byla široce pokryta (včetně této publikace), často s titulky, které to naznačovaly rozpoznání emocí se nedá věřit .
Výzkumníci v oblasti rozpoznávání emocí si již toto omezení uvědomují. Ti, se kterými jsme mluvili, byli opatrní, aby tvrdili, co jejich práce může a co ne. Mnozí zdůrazňovali, že rozpoznávání emocí nemůže ve skutečnosti posoudit vnitřní emoce a zkušenosti jednotlivce. Může pouze odhadnout, jak by emoce tohoto jedince mohli vnímat ostatní, nebo navrhnout široké trendy založené na populaci (například jeden film v průměru vyvolá pozitivnější reakci než jiný). Žádný seriózní badatel by netvrdil, že dokážete analyzovat akční jednotky tváří v tvář a pak vlastně víte, co si lidé myslí, říká Elisabeth André, expertka na afektivní počítače z univerzity v Augsburgu.
Výzkumníci také poznamenávají, že rozpoznávání emocí zahrnuje mnohem více než jen pohled na něčí tvář. Může také zahrnovat pozorování držení těla, chůze a dalších charakteristik, stejně jako používání biometrických senzorů a zvuku ke shromažďování holistických dat.
Takové rozdíly jsou dobré, ale důležité: diskvalifikují aplikace jako HireVue, které tvrdí, že posuzují inherentní schopnosti jednotlivce, ale podporují jiné, jako jsou technologie, jejichž cílem je udělat ze strojů inteligentnější spolupracovníky a společníky lidí. (HireVue nereagovala na žádost o komentář.) Humanoidní robot se mohl usmívat, když jste se usmáli – zrcadlení, které lidé často používají, aby interakce působily přirozeněji. Nositelné zařízení by vám mohlo připomenout, abyste si odpočinuli, pokud detekuje vyšší než základní hladiny kortizolu, tělesného stresového hormonu. Žádná z těchto aplikací nevyžaduje algoritmus k posouzení vašich soukromých myšlenek a pocitů; vyžadují pouze odhad vhodné reakce na hladiny kortizolu nebo řeč těla. Také nečiní zásadní rozhodnutí o životě jednotlivce – na rozdíl od neověřených náborových algoritmů. Pokud chceme, aby nám počítače a výpočetní systémy pomáhaly, bylo by pozitivní, kdyby měly smysl pro to, jak se cítíme, říká Nuria Oliver, hlavní datový vědec neziskové organizace DataPop Alliance.
Ale mnoho z této nuance se ztratí, když se výzkum rozpoznávání emocí použije k výrobě lukrativních komerčních aplikací. Stejné algoritmy pro sledování stresu v nositelném zařízení by mohla použít společnost, která se snaží ujistit, že pracujete dostatečně tvrdě. I pro společnosti jako Affectiva, založené výzkumníky, kteří mluví o důležitosti soukromí a etiky, je těžké definovat hranice. Má to prodal svou technologii HireVue . (Affectiva odmítla komentovat konkrétní společnosti.)
Výzva k regulaci
V prosinci výzkumný ústav AI Now vyzval k zákazu technologií rozpoznávání emocí v důležitých rozhodnutích, která ovlivňují životy lidí . Je to jedna z prvních výzev k zákazu technologie, které se dostalo menší regulační pozornosti než jiným formám umělé inteligence, i když její použití při prověřování pracovních míst a ve třídách by mohlo mít vážné dopady.
Naproti tomu Kongres právě konal třetí slyšení o rozpoznávání obličeje za méně než rok a má stát se tématem voleb v roce 2020 . Aktivisté pracují na bojkotu technologií rozpoznávání obličejů a několik zástupců uznává potřebu regulace v soukromém i veřejném sektoru. Pro afektivní počítání nebylo tolik vyhrazených kampaní a pracovních skupin a pokusy o regulaci byly omezené. Illinoisský zákon regulace analýzy AI videí z pracovních pohovorů vstoupila v platnost v lednu a Federální obchodní komise byla požádána, aby prošetřila H ireVue (ačkoli není známo, zda tak má v úmyslu učinit).
Ačkoli se mnoho výzkumníků domnívá, že zákaz je příliš široký, shodují se na tom, že regulační vakuum je také škodlivé. Máme jasně definované procesy, abychom potvrdili, že určité produkty, které konzumujeme – ať už jde o jídlo, které jíme, ať už jsou to léky, které užíváme – jsou pro nás bezpečné, abychom je užívali, a skutečně dělají vše, co tvrdí, že dělají, říká Oliver . Nemáme stejné technologické postupy. Společnosti, jejichž technologie mohou významně ovlivnit životy lidí, by podle ní měly prokázat, že splňují určitý standard bezpečnosti.
Rosalind Picard, profesorka na MIT Media Lab, která spoluzaložila společnost Affectiva a další start-up zabývající se afektivní výpočetní technikou, Empatica, tento názor opakuje. U stávajícího modelu regulace poukazuje na Zákon na ochranu polygrafů zaměstnanců omezení používání detektorů lži, které jsou podle ní v podstatě afektivní výpočetní technologií. Zákon například zakazuje většině soukromých zaměstnavatelů používat polygrafy a neumožňuje zaměstnavatelům ptát se na výsledky testů na detektoru lži.
Navrhuje, že veškeré používání takových technologií by mělo být dobrovolné a společnosti by měly mít povinnost zveřejnit, jak byly jejich technologie testovány a jaká jsou jejich omezení. To, co dnes máme, je, že [společnosti] mohou vznášet tato nehorázná tvrzení, která jsou jen nepravdivá, protože právě teď kupující není tak dobře vzdělaný, říká. A neměli bychom vyžadovat, aby kupující byli dobře vzdělaní. (Picard, která říká, že opustila Affectivu v roce 2013, nepodporuje tvrzení HireVue.)
Meredith Whittaker, vědecká pracovnice z NYU a spoluředitelka AI Now, zdůrazňuje rozdíl mezi výzkumem a komercializací. Nenapadáme celou oblast afektivního počítání, říká. Zvláště upozorňujeme na neregulované, neověřené a vědecky nepodložené zavádění technologií pro rozpoznávání komerčních vlivů. Komercializace poškozuje lidi právě teď, potenciálně, protože vytváří tvrzení, která určují přístup lidí ke zdrojům.
Zákaz používání rozpoznávání emocí v aplikacích, jako je prověřování pracovních míst, by pomohl zabránit komercializaci předběhnout vědu. Nejprve zastavte zavádění technologií, říká, a poté investujte do výzkumu. Pokud výzkum potvrdí, že technologie fungují tak, jak firmy tvrdí, pak zvažte uvolnění zákazu.
K udržení bezpečnosti lidí by však byly stále zapotřebí další předpisy: Whittaker tvrdí, že je nakonec třeba zvážit více než jen vědeckou důvěryhodnost. Když jsou tyto systémy používány v citlivých kontextech, musíme zajistit, aby byly sporné, aby byly používány spravedlivě, říká, a že nevedou ke zvýšeným mocenským asymetriím mezi lidmi, kteří je používají, a lidmi, na které působí. jsou používány.