211service.com
Algoritmus zobrazování reklam na Facebooku rozlišuje podle pohlaví a rasy
Paní Tech/ Logo: facebook
Algoritmy jsou neobjektivní – a Facebook není výjimkou.
Zrovna minulý týden byl technologický gigant žalován americkým ministerstvem bydlení a městského rozvoje za to, jak umožnil inzerentům cíleně cílit jejich reklamy podle rasy, pohlaví a náboženství – všechny chráněné třídy podle amerických zákonů. Společnost oznámila, že to přestane povolovat.
Ale nové důkazy ukazuje, že algoritmus Facebooku, který automaticky rozhoduje o tom, komu se reklama zobrazí, stejně diskriminuje a zobrazuje reklamy více než dvěma miliardám uživatelů na základě jejich demografických informací.
Tým vedený Muhammadem Alim a Piotrem Sapiezynskim z Northeastern University spustil sérii jinak identických reklam s drobnými odchylkami v dostupném rozpočtu, nadpisu, textu nebo obrázku. Zjistili, že tyto jemné úpravy měly významný dopad na publikum, které každá reklama oslovila – zejména když se jednalo o reklamy na zaměstnání nebo nemovitosti. Například příspěvky pro učitele předškolních zařízení a sekretářky se zobrazily vyššímu podílu žen, zatímco příspěvky pro školníky a taxikáře se zobrazily vyššímu podílu menšin. Reklamy na domy na prodej se také zobrazovaly více bílým uživatelům, zatímco reklamy na pronájmy se zobrazovaly většímu počtu menšin.
Udělali jsme důležité změny v našich nástrojích pro cílení reklam a víme, že je to jen první krok, říká mluvčí Facebooku řekl v prohlášení v reakci na zjištění. Zkoumali jsme náš systém doručování reklam a zapojili jsme do tohoto tématu přední představitele oboru, akademiky a odborníky na občanská práva – a zkoumáme další změny.
V některých ohledech by to nemělo být překvapivé – zaujatost v algoritmech doporučení je známý problém již mnoho let. V roce 2013 například Latanya Sweeney, profesorka vlády a technologie na Harvardu, zveřejnila článek, který ukázal implicitní rasovou diskriminaci algoritmu zobrazování reklam společnosti Google. Problém se vrací k tomu, jak tyto algoritmy v podstatě fungují. Všechny jsou založeny na strojovém učení, které nachází vzory v obrovském množství dat a znovu je používá k rozhodování. Existuje mnoho způsobů, jak se během tohoto procesu může objevit předpojatost, ale dva nejzřetelnější v případě Facebooku se týkají problémů během rámování problémů a sběru dat.
Zkreslení nastává během rámování problému, když cíl modelu strojového učení není v souladu s potřebou vyhnout se diskriminaci. Reklamní nástroj Facebooku umožňuje inzerentům vybrat si ze tří optimalizačních cílů: počet zobrazení, které reklama získá, počet kliknutí a míru zapojení, které získá, a objem prodeje, který generuje. Ale tyto obchodní cíle nemají nic společného, řekněme, se zachováním rovného přístupu k bydlení. V důsledku toho, pokud by algoritmus zjistil, že by mohl získat větší zapojení tím, že by ukázal více domů bílým uživatelům k nákupu, skončilo by to diskriminací černých uživatelů.
Zkreslení nastává během sběru dat, když tréninková data odrážejí existující předsudky. Reklamní nástroj Facebooku zakládá svá optimalizační rozhodnutí na historických preferencích, které lidé prokázali. Pokud se v minulosti zabývalo reklamami na pronájmy více menšin, model strojového učení tento vzorec identifikuje a znovu jej použije navěky. Znovu se slepě vydá po cestě diskriminace v zaměstnání a bydlení – aniž by jí to bylo výslovně řečeno.
Zatímco tato chování ve strojovém učení byla studována již nějakou dobu, nová studie nabízí přímější pohled na samotný rozsah jejího dopadu na přístup lidí k bydlení a pracovním příležitostem. Tato zjištění jsou výbušná! Christian Sandvig, ředitel Centra pro etiku, společnost a výpočetní techniku na University of Michigan, řekl Ekonom. Noviny nám říkají, že [...] velká data, použitá tímto způsobem, nám nikdy nemohou poskytnout lepší svět. Ve skutečnosti je pravděpodobné, že tyto systémy dělají svět horším tím, že urychlují problémy ve světě, které činí věci nespravedlivými.
Dobrou zprávou je, že mohou existovat způsoby, jak tento problém vyřešit, ale nebude to snadné. Mnoho výzkumníků v oblasti umělé inteligence nyní hledá technické opravy zkreslení strojového učení, které by mohly vytvořit spravedlivější modely online reklamy. Nedávný papír z Yale University a Indian Institute of Technology, například, navrhuje, že by mohlo být možné omezit algoritmy, aby se minimalizovalo diskriminační chování, i když s malými náklady na příjmy z reklamy. Ale politici budou muset hrát větší roli, pokud mají platformy začít investovat do takových oprav – zvláště pokud by to mohlo ovlivnit jejich konečný výsledek.
To se původně objevilo v našem zpravodaji AI The Algorithm. Chcete-li jej doručit přímo do vaší schránky, zaregistrujte se zdarma zde.