Amazon zavrhl náborový software pro umělou inteligenci, protože byl zaujatý vůči ženám

Kategorie: Silicon Valley Vyslán 10. října

Data, na kterých byl natrénován algoritmus umělé inteligence, vytvořila preference pro mužské kandidáty.

Zprávy: Podle zprávy od Reuters , Amazon začal vyvíjet automatizovaný systém v roce 2014, aby ohodnotil uchazeče o zaměstnání jednou až pěti hvězdičkami. Loni však společnost projekt zrušila poté, co viděla, že upřednostňuje mužské kandidáty v technických rolích.

Proč? Nástroj AI byl vyškolen na 10letých životopisech, které společnost obdržela. Vzhledem k tomu, že technologie je průmysl, v němž dominují muži, většina těchto životopisů pochází od mužů.

Výsledek: Systém byl neúmyslně natrénován k výběru mužských kandidátů před kandidátkami. Údajně by to penalizovalo životopisy obsahující slovo ženy nebo názvy určitých vysokých škol, které jsou výhradně pro ženy. Přestože Amazon provedl změny, aby byly tyto podmínky neutrální, společnost ztratila důvěru, že program byl skutečně genderově neutrální ve všech ostatních oblastech.

Proč na tom záleží: S umělou inteligencí nemůžeme zacházet jako s nestrannou. Trénink systémů na zkreslených datech znamená, že i algoritmy se stanou zkreslenými. Pokud takové nekalé programy náboru umělé inteligence nejsou před implementací odhaleny, spíše udrží dlouhodobé problémy s rozmanitostí v podnikání, než aby je vyřešily.

Chcete držet krok s tím, jak technologie mění pracoviště budoucnosti? Přihlaste se k odběru našeho newsletteru budoucnosti práce Clocking In .