211service.com
Umělá inteligence LinkedIn pro přiřazování pracovních míst byla neobjektivní. Řešení firmy? Více AI.
paní Tech | Envato
Před lety LinkedIn zjistil, že algoritmy doporučení, které používá k přiřazování uchazečů o zaměstnání k příležitostem, přinášejí neobjektivní výsledky. Algoritmy seřadily kandidáty částečně na základě toho, s jakou pravděpodobností se budou ucházet o pozici nebo reagovat na náboráře. Systém nakonec doporučoval pro otevřené role více mužů než žen jednoduše proto, že muži jsou často agresivnější při hledání nových příležitostí.
LinkedIn objevil problém a vytvořil další program umělé inteligence, aby čelil zkreslení výsledků prvního. Mezitím některé z největších světových webů pro hledání zaměstnání – včetně CareerBuilder, ZipRecruiter a Monster – používají velmi odlišné přístupy k řešení zkreslení na svých vlastních platformách, jak informujeme v nejnovější epizodě podcastu In Machines We Trust společnosti MIT Technology Review. Vzhledem k tomu, že tyto platformy přesně nezveřejňují, jak jejich systémy fungují, je pro uchazeče o zaměstnání těžké vědět, jak účinná jsou některá z těchto opatření při skutečném předcházení diskriminaci.
Pokud byste si dnes začali hledat novou práci, umělá inteligence by vaše hledání velmi pravděpodobně ovlivnila. Umělá inteligence dokáže určit, jaké příspěvky vidíte na platformách pro hledání zaměstnání, a rozhodnout, zda předat svůj životopis náborovým pracovníkům společnosti. Některé společnosti vás mohou požádat, abyste hráli Videohry s umělou inteligencí které měří vaše osobnostní rysy a zjišťují, zda byste se dobře hodil pro konkrétní role.
Související příběh
Auditoři testují náborové algoritmy na zkreslení, ale neexistuje žádná snadná oprava Audity umělé inteligence mohou přehlédnout určité typy zkreslení a nemusí nutně ověřit, že náborový nástroj vybírá nejlepší kandidáty na práci.
Stále více společností využívá umělou inteligenci k náboru a najímání nových zaměstnanců a umělá inteligence může zohlednit téměř v jakékoli fázi náborového procesu . Covid-19 vyvolal novou poptávku po těchto technologiích. Oba Zvědavá věc a HireVue , společnosti specializující se na rozhovory s umělou inteligencí, ohlásily během pandemie nárůst podnikání.
Většina hledání práce však začíná jednoduchým hledáním. Uchazeči o zaměstnání se obracejí na platformy jako LinkedIn , Netvor , nebo ZipRecruiter , kam mohou nahrávat své životopisy, procházet nabídky práce a hlásit se na volná místa.
Cílem těchto webových stránek je propojit kvalifikované kandidáty s dostupnými pozicemi. K organizaci všech těchto otevření a kandidátů využívá mnoho platforem doporučovací algoritmy založené na umělé inteligenci. Algoritmy, někdy označované jako párovací motory, zpracovávají informace jak od uchazeče o zaměstnání, tak od zaměstnavatele, aby pro každého vytvořily seznam doporučení.
Obvykle slyšíte anekdotu, že náborář stráví šest sekund prohlížením vašeho životopisu, že? říká Derek Kan, viceprezident produktového managementu společnosti Monster. Když se podíváme na modul doporučení, který jsme vytvořili, můžete tento čas zkrátit až na milisekundy.
Většina odpovídajících motorů je optimalizována pro generování aplikací, říká John Jersin , bývalý viceprezident produktového managementu na LinkedIn. Tyto systémy zakládají svá doporučení na třech kategoriích dat: informace, které uživatel poskytuje přímo platformě; data přiřazená uživateli na základě jiných s podobnými dovednostmi, zkušenostmi a zájmy; a údaje o chování, například jak často uživatel odpovídá na zprávy nebo interaguje s pracovními nabídkami.
V případě LinkedIn tyto algoritmy vylučují jméno, věk, pohlaví a rasu osoby, protože zahrnutí těchto charakteristik může přispět k zaujatosti v automatizovaných procesech. Ale Jersinův tým zjistil, že i tak mohou algoritmy služby stále detekovat vzorce chování vykazované skupinami s konkrétními genderovými identitami.
Například zatímco muži se častěji ucházejí o zaměstnání, která vyžadují pracovní zkušenosti nad rámec jejich kvalifikace, ženy mají tendenci vyhledávat pouze zaměstnání, ve kterých jejich kvalifikace odpovídá požadavkům dané pozice. Algoritmus interpretuje tuto variaci v chování a upravuje svá doporučení tak, aby neúmyslně znevýhodňoval ženy.
Můžete například doporučit více vedoucích pozic jedné skupině lidí než jiné, i když mají kvalifikaci na stejné úrovni, říká Jersin. Tito lidé nemusí být vystaveni stejným příležitostem. A to je skutečně dopad, o kterém zde mluvíme.
Muži také uvádějí ve svých životopisech více dovedností na nižším stupni odbornosti než ženy a často agresivněji jednají s náboráři na platformě.
K řešení takových problémů Jersin a jeho tým na LinkedIn postavil novou AI navržený tak, aby poskytoval reprezentativnější výsledky, a nasazený v roce 2018. Byl to v podstatě samostatný algoritmus navržený tak, aby působil proti doporučením vychýleným směrem k určité skupině. Nová umělá inteligence zajišťuje, že před doporučením zápasů kurovaných původním modulem systém doporučení zahrnuje reprezentativní rozdělení uživatelů napříč pohlavími.
Kan říká, že společnost Monster, která uvádí 5 až 6 milionů pracovních míst v kteroukoli chvíli, také začleňuje údaje o chování do svých doporučení, ale neopravuje zkreslení stejným způsobem, jako to dělá LinkedIn. Místo toho se marketingový tým zaměřuje na to, aby se do služby zaregistrovali uživatelé z různých prostředí a společnost se pak spoléhá na to, že zaměstnavatelé podá zprávu a sdělí společnosti Monster, zda předala reprezentativní skupinu kandidátů či nikoli.
Irina Novoselská , generální ředitelka společnosti CareerBuilder, říká, že se zaměřuje na používání dat, která služba shromažďuje, aby naučila zaměstnavatele, jak eliminovat zaujatost z jejich pracovních nabídek. Když si například kandidát přečte popis práce se slovem „rockstar“, je podle ní podstatně nižší procento žen, které se hlásí.
Ian Seal , generální ředitel a spoluzakladatel společnosti ZipRecruiter, říká, že algoritmy společnosti neberou při hodnocení kandidátů v úvahu určité identifikační charakteristiky, jako jsou jména; místo toho klasifikují lidi na základě 64 jiných typů informací, včetně geografických údajů. Říká, že společnost nediskutuje o podrobnostech svých algoritmů s odkazem na obavy z duševního vlastnictví, ale dodává: Věřím, že jsme tak blízko hodnocení lidí na základě zásluh, jak je v současnosti možné.
Díky automatizaci v každém kroku náborového procesu se nyní uchazeči o zaměstnání musí naučit, jak vyniknout před algoritmem i náborovými manažery. Ale bez jasných informací o tom, co tyto algoritmy dělají, čelí kandidáti významným výzvám.
Myslím, že lidé podceňují dopad, který mají algoritmy a nástroje doporučení na pracovní místa, říká Kan. Způsob, jakým se prezentujete, si s největší pravděpodobností nejprve přečtou tisíce strojů a serverů, než se vůbec dostane do lidského oka.
Tento článek byl aktualizován 25. 6. 21, aby odrážel, že nová umělá inteligence LinkedIn zajišťuje reprezentativní rozdělení uživatelů (nikoli rovnoměrné) napříč pohlavími se doporučují pro zaměstnání.