IBM říká, že již nepracuje na rozpoznávání obličejů, protože se používá pro rasové profilování

Kategorie: Umělá inteligence Vyslán 9. června

Zprávy: IBM uvedla, že společnost přestane vyvíjet nebo prodávat software pro rozpoznávání obličeje kvůli obavám, že se technologie používá k propagaci rasismu. V dopis Kongresu Generální ředitel IBM Arvind Krishna řekl, že technologický gigant je proti jakékoli technologii používané pro hromadné sledování, rasové profilování, porušování základních lidských práv a svobod.

Vyzval k celostátnímu dialogu o tom, zda a jak je vhodné, aby technologie rozpoznávání obličeje byla používána domácími donucovacími orgány. Dopis také žádal o nová federální pravidla, která by zasáhla proti pochybení policie, a více školení a vzdělávání pro požadované dovednosti, aby se zlepšily ekonomické příležitosti pro lidi s jinou barvou pleti.

Není to nová starost: Aktivisté a odborníci již léta poukazují na to, že systémy rozpoznávání obličejů jsou neobjektivní, a upozorňují na to potenciál ke zneužití . Jejich obavy jsou oprávněné: a orientační studie Americký Národní institut pro standardy a technologie v loňském roce potvrdil, že většina algoritmů rozpoznávání obličeje fungovala hůře na jiných než bílých obličejích.

Jak bylo přijato: IBM je první velká technologická společnost, která úplně ustoupila od vývoje této technologie. Ačkoli tato zpráva byla široce přijata pozitivně technici, a zejména aktivisté, kteří se obávají používání rozpoznávání obličeje, kritici upozornili že pro IBM je stěží velkou obětí opustit trh, na kterém zpočátku sotva měla oporu.

Navzdory tomu je to stále velká technologická společnost, která zaujímá neobvykle silný morální postoj k jednomu z nejkontroverznějších témat dne. Je to zvláště aktuální vzhledem k probíhajícím protestům proti policejnímu násilí a rasismu v USA a po celém světě. Není však jasné, zda to zůstane jednorázovou změnou ze strany IBM, nebo krokem, který pomůže přimět další technologické společnosti k akci.