211service.com
Firma najímající umělou inteligenci říká, že dokáže předvídat nábor do zaměstnání na základě vašich pohovorů
Snímek obrazovky PredictiveHire.
Od vypuknutí pandemie, rostoucí počet společností se obrátili na AI, aby jim pomohla s najímáním. Nejběžnější systémy zahrnují použití algoritmů pro skenování obličeje, her, otázek nebo jiných hodnocení, které pomáhají určit, které kandidáty mají být pohovory.
Zatímco aktivisté a učenci varují, že tyto screeningové nástroje mohou udržovat diskriminaci, sami tvůrci tvrdí, že algoritmické najímání pomáhá napravit člověk zaujatosti. Algoritmy lze testovat a vylepšovat, zatímco lidské předsudky se napravují mnohem hůře – nebo alespoň tak. V papír z prosince 2019 , výzkumníci z Cornell prozkoumali prostředí společností zabývajících se algoritmickým screeningem, aby analyzovali jejich tvrzení a postupy. Z 18, které identifikovali s webovými stránkami v anglickém jazyce, se většina představila jako spravedlivější alternativa k najímání lidí, což naznačuje, že se chytili zvýšeného zájmu o tyto problémy, aby propagovali výhody svých nástrojů a získali více zákazníků.
Diskriminace však není jediným problémem algoritmického najímání a někteří vědci se obávají, že marketingový jazyk, který se zaměřuje na zaujatost, umožňuje společnostem ignorovat další otázky, jako jsou práva pracovníků. Nový předtisk od jedné z těchto firem nyní slouží jako důležitá připomínka: Neměli bychom dovolit, aby pozornost, kterou lidé začali věnovat problémům s předpojatostí a diskriminací, ve skutečnosti vytlačila skutečnost, že existuje spousta dalších problémů, říká Solon Barocas, odborný asistent. na Cornell University a hlavní výzkumný pracovník společnosti Microsoft Research, který studuje algoritmickou spravedlnost a odpovědnost.
Dotyčná firma je PredictiveHire se sídlem v Austrálii, založená v říjnu 2013. Nabízí chatbota, který uchazečům klade řadu otevřených otázek. Poté analyzuje jejich reakce, aby posoudil osobnostní rysy související s prací, jako je pud, iniciativa a odolnost. Podle generální ředitelky firmy Barbary Hyman jsou jejími klienty zaměstnavatelé, kteří musí spravovat velké množství aplikací, jako jsou ty v maloobchodě, prodeji, call centrech a zdravotnictví. Jak zjistila Cornellova studie, ve svém marketingovém jazyce také aktivně využívá sliby spravedlivějšího náboru. Na své domovské stránce odvážně inzeruje: Seznamte se s Phai. Váš druhý pilot při najímání. Dělat rozhovory SUPER RYCHLE. KONEČNĚ VČETNĚ. KONEČNĚ BEZ PŘEDPOJE.
Jak jsme již psali, myšlenka algoritmů bez zkreslení je vysoce zavádějící . Ale PredictiveHire's nejnovější výzkum znepokojuje z jiného důvodu. Zaměřuje se na vytvoření nového modelu strojového učení, který se snaží předvídat pravděpodobnost, že kandidát nastoupí do zaměstnání, což je praxe střídání zaměstnání častěji, než si zaměstnavatel přeje. Práce navazuje na nedávný recenzovaný výzkum společnosti, který se zabýval otázkou, jak jsou otázky otevřeného rozhovoru korelovat s osobností (sám o sobě a velmi sporná praxe ). Protože organizační psychologové již prokázali spojitost mezi osobností a skákáním do zaměstnání, říká Hyman, společnost chtěla otestovat, zda mohou pro predikci použít svá existující data. Udržení zaměstnanců je pro mnoho společností, se kterými spolupracujeme, obrovským zájmem vzhledem k nákladům na vysoký odchod zaměstnanců, které se odhadují na 16 % nákladů na plat každého zaměstnance, dodává.
Studie použila odpovědi ve volném textu od 45 899 kandidátů, kteří použili chatbota PredictiveHire. Uchazečům bylo původně položeno pět až sedm otevřených otázek a otázek s vlastním hodnocením o jejich minulých zkušenostech a situačním úsudku. Mezi ně patřily otázky, které měly upozornit na rysy, o nichž studie dříve prokázaly, že silně korelují s tendencemi k přeskakování práce, jako je větší otevřenost zkušenostem, méně praktická a méně přirozená. Výzkumníci společnosti tvrdí, že model byl schopen předpovídat přeskakování práce se statistickou významností. Web PredictiveHire již tuto práci inzeruje jako hodnocení rizika letu již brzy .
Nová práce PredictiveHire je ukázkovým příkladem toho, co Nathan Newman tvrdí, že je jedním z největších nepříznivých dopadů velkých dat na pracovní sílu. Newman, mimořádný docent na John Jay College of Criminal Justice, napsal zákon z roku 2017 že kromě obav z diskriminace v zaměstnání byla analýza velkých dat také použita nesčetnými způsoby ke snížení mezd pracovníků.
Osobnostní testy založené na strojovém učení se například stále častěji používají při náboru, aby vyloučily potenciální zaměstnance, u nichž je vyšší pravděpodobnost, že budou agitovat za zvýšení mezd nebo podporovat odborovou organizaci. Zaměstnavatelé stále více sledují e-maily, chaty a další data zaměstnanců, aby mohli posoudit, kdo by mohl odejít, a vypočítat minimální zvýšení mzdy potřebné k tomu, aby zůstali. A systémy řízení algoritmů, jako je Uber, decentralizují pracovníky mimo kanceláře a digitální shromažďovací prostory, které jim umožňují vzájemnou koordinaci a kolektivně vyžadují lepší zacházení a platy.
Žádný z těchto příkladů by neměl být překvapivý, tvrdil Newman. Jsou prostě moderním projevem toho, co zaměstnavatelé historicky dělali pro potlačení mezd cílením a rozbíjením odborových aktivit. Používání hodnocení osobnosti při přijímání zaměstnanců, které se datuje do 30. let 20. století v USA, ve skutečnosti začalo jako mechanismus k vyřazení lidí, kteří se s největší pravděpodobností stanou organizátory práce. Testy se staly obzvláště populární v 60. a 70. letech, kdy je organizační psychologové zdokonalili tak, aby hodnotili pracovníky podle jejich odborových sympatií.
V tomto kontextu je hodnocení bojového rizika PredictiveHire jen dalším příkladem tohoto trendu. Job hopping neboli hrozba job hoppingu, zdůrazňuje Barocas, je jedním z hlavních způsobů, jak mohou pracovníci zvýšit svůj příjem. Společnost dokonce postavila své hodnocení na osobnostních screeningech navržených organizačními psychology.
Barocas nemusí nutně obhajovat úplné vyhození nástrojů. Domnívá se, že cíl zajistit, aby nábor fungoval lépe pro všechny, je ušlechtilý a mohl by být dosažen, pokud by to nařídili regulační orgány větší transparentnost . V současné době žádný z nich neobdržel přísné, recenzované hodnocení, říká. Pokud by však firmy byly ve svých postupech vstřícnější a předložily své nástroje k takovému ověření, mohlo by jim to pomoci přimět je k odpovědnosti. Mohlo by to také pomoci vědcům snadněji se zapojit do firem, aby studovali dopady nástrojů na práci i diskriminaci.
Přes veškerou svou vlastní práci za posledních pár let, ve které jsem vyjadřoval obavy ohledně těchto věcí, říká, ve skutečnosti věřím, že spousta těchto nástrojů by mohla výrazně zlepšit současný stav věcí.