Algoritmus Googlu pro detekci nenávistných projevů je rasově zaujatý

Kategorie: Silicon Valley Vyslán 13. srpna

Systémy umělé inteligence určené k odhalení urážlivého online obsahu mnohem pravděpodobněji označí tweety za urážlivé, pokud je zveřejnili lidé, kteří se identifikují jako Afroameričané.

Zprávy: Výzkumníci postavili dva systémy umělé inteligence a testovali je na páru datových sad více než 100 000 tweetů, které lidé označili štítky jako urážlivý, žádný nebo nenávistný projev. Jeden z algoritmů nesprávně označil 46 % neurážlivých tweetů od afroamerických autorů jako urážlivé. Testy na větších souborech dat, včetně jednoho složeného z 5,4 milionů tweetů, zjistily, že příspěvky afroamerických autorů byly 1,5krát častěji označeny jako urážlivé. Když pak výzkumníci testovali Google Perspektivní , nástroj AI, který společnost umožňuje komukoli používat k moderování online diskuzí, zjistili podobné rasové předsudky.

Těžká rovnováha k dosažení: Masové přestřelky páchané přívrženci bílé rasy v USA a na Novém Zélandu vedly k rostoucím výzvám politiků, aby platformy sociálních sítí udělaly více pro odstranění nenávistných projevů. Tyto studie zdůrazňují, jak složitý úkol to je. Zda je jazyk urážlivý, může záviset na tom, kdo to říká a kdo to slyší. Například černoch používající slovo N se velmi liší od toho, kdo jej používá běloch. Ale systémy umělé inteligence nerozumí a v současné době nemohou chápat tuto nuanci.

Riziko: Tím, že se vrhneme na používání softwaru k automatickému vyřazení urážlivého jazyka, riskujeme umlčení menšinových hlasů. Moderování online obsahu je a traumatizující, obtížná práce , takže technologické společnosti se chtějí spoléhat na systémy AI místo na lidské bytosti (jsou také mnohem levnější). Tato studie ukazuje obrovská rizika, která jsou tomuto přístupu vlastní.

Přihlaste se zde k odběru našeho denního zpravodaje The Download a získejte svou dávku nejnovějších zpráv ze světa nových technologií, které si musíte přečíst.