Skandál IBM ohledně škrábání fotografií ukazuje, v jaké podivné bublině žijí výzkumníci umělé inteligence

Kategorie: Umělá inteligence Vyslán 15. března

V úterý NBC zveřejnila příběh s poutavým titulkem: ‚Malé špinavé tajemství‘ rozpoznávání obličeje: Miliony online fotek seškrábaných bez souhlasu. já propojeno k tomu v našem posledním vydání Algorithm, ale dnes stojí za to se k němu vrátit.

Příběh zdůrazňuje nedávný soubor dat vydaný společností IBM s 1 milionem obrázků obličejů, který má pomoci vyvinout spravedlivější algoritmy pro rozpoznávání obličejů. (V té době jsem o novinkách také psal.) Ukázalo se, jak NBC zjistila, že tyto tváře byly seškrábány přímo z online fotohostingové stránky Flickr, bez svolení subjektů nebo fotografů.

Některým z vás bude tato praxe okamžitě připadat strašidelná a zvláštní. Pro ostatní to bude vypadat naprosto normálně. To, co tento příběh odhalil, nebylo ani tak malé špinavé tajemství, ale spíše kulturní propast mezi veřejností a komunitou AI.

Ve skutečnosti pro zasvěcené osoby IBM neudělala nic neobvyklého. Výzkumníci umělé inteligence neustále shromažďují data z různých koutů internetu, aby naplnili stále hladové algoritmy strojového učení, které vyžadují obrovské množství na trénování. Běžným zdrojem obrazových dat jsou například fotografie z Instagramu; hashtagy často vhodně odpovídají obsahu fotografií, takže generování označených dat je mimořádně snadné. Články z New York Times a Wall Street Journal jsou také běžným zdrojem dat pro dobře napsané a zkopírované věty. Ještě lepší, že jsou rozděleny do kategorií podle témat: technologie, obchod, sport.

Ve skutečnosti je seškrabování dat z veřejně dostupných zdrojů natolik průmyslovým standardem, že se vyučuje jako základní dovednost (bez etiky) ve většině školení o datové vědě a strojovém učení. Mezitím je většina technologických platforem navržena tak, aby k takovému scrapingu vyzývala tím, že nabízí rozhraní API s přímým přístupem k jejich datům. Až donedávna se to dělalo bez rozmýšlení. (Dobrý den, Facebook.)

To vše neznamená, že škrábání dat je správné nebo nesprávné. Existuje několik zcela benigních nebo legitimních způsobů, jak lze tuto praxi použít (viz Analyzovali jsme 16 625 článků, abychom zjistili, kam bude AI dále směřovat); opravdu záleží na kontextu. Tento příběh spíše zdůrazňuje, že je potřeba, aby technologický průmysl přizpůsobil své kulturní normy a standardní postupy, aby držel krok s rychlým vývojem samotné technologie, stejně jako povědomí veřejnosti o tom, jak jsou jejich data využívána.

Existují způsoby, jak dnes využít naše data, o kterých jsme před pěti nebo deseti lety nevěděli, říká Rumman Chowdhury, globální vedoucí zodpovědný za umělou inteligenci ve společnosti Accenture Applied Intelligence. Jak jsme mohli [veřejnost] souhlasit se schopností, která neexistovala?

Jinými slovy, kdysi to mohlo být životaschopnou praxí bezstarostně sbírat data lidí a kdysi to možná stačil souhlas k tomu, aby byla uvedená data používána, dokud byla veřejně dostupná, ale nástup umělé inteligence a bezprecedentní rozsah Monopolizace a monetizace dat v Silicon Valley změnily rovnici. Technologové nesou odpovědnost za to, že se s tím změní a zajistí, že pro jejich postupy bude existovat široký a informovaný společenský konsensus.

Chowdhuryho tip pro ty, kteří se snaží orientovat v šedých oblastech ochrany osobních údajů? Přemýšlejte o tom, zda způsob, jakým používáte data, je v duchu toho, v jakém byla původně generována a sdílena. Pokud jej používáte zcela tangenciálním způsobem, je čas se zastavit a přehodnotit.

Tento příběh se původně objevil v našem zpravodaji o umělé inteligenci The Algorithm. Chcete-li jej doručit přímo do vaší schránky, zaregistrujte se zdarma zde.