Odvětví najímání umělé inteligence je pod drobnohledem – ale bude těžké to opravit

Kategorie: Technická politika Vyslán 7. listopadu

Electronic Privacy Information Center (EPIC) má požádal Federální obchodní komisi, aby prošetřila HireVue , nástroj umělé inteligence, který pomáhá společnostem zjistit, které pracovníky najmout.

Co je HireVue? HireVue je jedním z rostoucího počtu nástrojů umělé inteligence, které společnosti používají k hodnocení uchazečů o zaměstnání. Algoritmus analyzuje videopohovory a využívá vše od výběru slov po pohyby obličeje, aby zjistil skóre zaměstnatelnosti, které se porovnává se skórem ostatních uchazečů. Více než 100 společností jej již využilo u více než milionu žadatelů, podle Washington Post .

Co je za problém? Je těžké předvídat, kteří pracovníci budou úspěšní, z věcí, jako je výraz obličeje. A co je horší, kritici se obávají, že algoritmus je trénován na omezených datech, a tak bude pravděpodobnější, že tradiční uchazeče (bílé, mužské) označí za zaměstnatelnější. V důsledku toho žadatelé, kteří se odchylují od tradičního – včetně lidí, kteří nemluví anglicky jako rodný jazyk nebo kteří jsou zdravotně postižení – pravděpodobně získají nižší skóre, říkají odborníci . Navíc to povzbuzuje uchazeče, aby si systém zahráli tím, že budou pohovory způsobem, o kterém vědí, že se bude HireVue líbit.

Co bude dál? Nástroje pro najímání AI nejsou dobře regulovány a řešení tohoto problému bude obtížné z několika důvodů.

—Většina společností nezveřejní svá data ani nevysvětlí, jak algoritmy fungují, takže je velmi obtížné prokázat jakoukoli zaujatost. To je jeden z důvodů, proč zatím nebyly žádné velké soudní spory. Stížnost EPIC, která naznačuje, že slib HireVue porušuje pravidla FTC proti nekalým a klamavým praktikám, je začátek. Ale není jasné, jestli se něco stane. FTC stížnost obdržela, ale neřekla, zda se jí bude zabývat.

—Další pokusy zabránit zkreslení jsou dobře míněné, ale omezené. Začátkem tohoto roku zákonodárci z Illinois schválili zákon, který to zaměstnavatelům ukládá řekni to alespoň uchazečům o práci že budou používat tyto algoritmy a získat jejich souhlas. Ale to není moc užitečné. Mnoho lidí pravděpodobně souhlasí, protože nechtějí přijít o příležitost.

— Konečně, stejně jako umělá inteligence ve zdraví nebo umělá inteligence v soudní síni, umělá inteligence při najímání znovu vytvoří předsudky společnosti, což je komplikovaný problém. Regulační orgány budou muset zjistit, jak velkou odpovědnost by měly společnosti převzít, aby se vyhnuly chybám společnosti s předsudky.