Tito strašidelní falešní lidé ohlašují nový věk v AI

S laskavým svolením Datagen

Můžete vidět, jak se mu na horním rtu dostává slabé strniště, vrásky na čele, skvrny na kůži. Není to skutečná osoba, ale má ji napodobovat – stejně jako stovky tisíc dalších vyrobených společností Datagen, která prodává falešné, simulované lidi.

Tito lidé nejsou herními avatary nebo animovanými postavami pro filmy. Jsou to syntetická data navržená tak, aby podpořila rostoucí apetit algoritmů hlubokého učení. Firmy jako Datagen nabízejí přesvědčivou alternativu k drahému a časově náročnému procesu shromažďování reálných dat. Udělají to za vás: jak chcete, kdy chcete – a relativně levně.

Aby vytvořil své syntetické lidi, Datagen nejprve skenuje skutečné lidi. Spolupracuje s prodejci, kteří platí lidem, aby vstoupili do obřích celotělových skenerů, které zachycují každý detail od jejich duhovky přes texturu pokožky až po zakřivení prstů. Startup poté vezme nezpracovaná data a napumpuje je prostřednictvím řady algoritmů, které vyvinou 3D reprezentace těla, obličeje, očí a rukou člověka.

Společnost se sídlem v Izraeli tvrdí, že již spolupracuje se čtyřmi hlavními americkými technologickými giganty, ale neprozradí, kteří z nich jsou v záznamu. Jeho nejbližší konkurent, Syntéza AI , nabízí také digitální lidi na vyžádání. Jiné společnosti generují data, která mají být použita finance , pojištění , a zdravotní péče . Je jich asi tolik společnosti se syntetickými daty protože existují typy dat.

Kdysi byla syntetická data považována za méně žádoucí než skutečná data, nyní ji někteří považují za všelék. Skutečná data jsou chaotická a plná zkreslení. Nové předpisy o ochraně osobních údajů znesnadňují shromažďování. Naproti tomu syntetická data jsou nedotčená a lze je použít k vytvoření různorodějších datových souborů. Můžete vytvořit dokonale označené obličeje, řekněme, různého věku, tvarů a etnických skupin a vytvořit systém detekce obličejů, který bude fungovat napříč populací.

Ale syntetická data mají svá omezení. Pokud neodráží realitu, může skončit produkováním ještě horší umělé inteligence než chaotická, neobjektivní data z reálného světa – nebo může jednoduše zdědit stejné problémy. Nechci tomuto paradigmatu dát palec nahoru a říct: ‚Tohle vyřeší tolik problémů,‘ říká Cathy O’Neil, datová vědkyně a zakladatelka algoritmické auditorské firmy ORCAA. Protože také bude spoustu věcí ignorovat.

Realistické, ne skutečné

Hluboké učení bylo vždy o datech. Ale v posledních několika letech se to komunita umělé inteligence naučila dobrý data jsou důležitější než velký data . I malé množství správných, čistě označených dat může zlepšit výkon systému AI více než 10násobek množství neupravovaných dat nebo dokonce pokročilejší algoritmus.

To mění způsob, jakým by společnosti měly přistupovat k vývoji svých modelů AI, říká generální ředitel a spoluzakladatel Datagen Ofir Chakon. Dnes začínají získáním co největšího množství dat a poté ladí a ladí své algoritmy pro lepší výkon. Místo toho by měli dělat opak: používat stejný algoritmus a zároveň zlepšovat složení svých dat.

Datagen také vytváří falešný nábytek a vnitřní prostředí, aby dal své falešné lidi do kontextu.

DATAGEN

Ale shromažďování reálných dat pro provádění tohoto druhu iterativního experimentování je příliš nákladné a časově náročné. Zde přichází na řadu Datagen. Pomocí generátoru syntetických dat mohou týmy vytvářet a testovat desítky nových datových sad denně, aby zjistily, která z nich maximalizuje výkon modelu.

Aby byla zajištěna realističnost svých dat, poskytuje Datagen svým prodejcům podrobné pokyny o počtu jedinců, kteří mají skenovat v každé věkové skupině, rozmezí BMI a etnickém původu, a také seznam akcí, které mají provést, jako je chůze po místnosti nebo pití sody. Dodavatelé posílají zpět jak vysoce věrné statické obrázky, tak data z těchto akcí zachycující pohyb. Algoritmy Datagenu pak tato data rozšiřují na stovky tisíc kombinací. Syntetizovaná data jsou někdy znovu zkontrolována. Falešné obličeje jsou vykresleny proti skutečným obličejům, například, aby se zjistilo, zda vypadají realisticky.

Datagen nyní generuje výrazy obličeje pro sledování bdělosti řidičů v chytrých autech, pohyby těla pro sledování zákazníků v obchodech bez pokladen a pohyby duhovek a rukou pro zlepšení schopností VR náhlavních souprav sledovat oči a ruce. Společnost tvrdí, že její data již byla použita k vývoji systémů počítačového vidění, které slouží desítkám milionů uživatelů.

Nejsou to jen syntetickí lidé, kteří jsou masově vyráběni. Click-Ins je startup, který využívá syntetickou AI k provádění automatizovaných kontrol vozidel. Pomocí návrhářského softwaru znovu vytvoří všechny značky a modely aut, které jeho AI potřebuje rozpoznat, a poté je vykreslí s různými barvami, poškozeními a deformacemi za různých světelných podmínek a na různém pozadí. To společnosti umožňuje aktualizovat svou AI, když výrobci automobilů uvádějí nové modely, a pomáhá jí vyhnout se porušení ochrany osobních údajů v zemích, kde jsou SPZ považovány za soukromé informace, a proto nemohou být přítomny na fotografiích používaných k výcviku AI.

Click-Ins vykresluje auta různých značek a modelů na různých pozadích.

KLIKNUTÍ

Většinou.ai spolupracuje s finančními, telekomunikačními a pojišťovacími společnostmi na poskytování tabulek s falešnými klientskými daty, které společnostem umožňují sdílet jejich databázi zákazníků s externími prodejci způsobem, který je v souladu se zákonem. Anonymizace může snížit bohatost souboru dat, ale stále nedokáže dostatečně chránit soukromí lidí. Syntetická data však lze použít ke generování podrobných souborů falešných dat, které sdílejí stejné statistické vlastnosti jako skutečná data společnosti. Lze jej také použít k simulaci dat, která společnost ještě nemá, včetně rozmanitější populace klientů nebo scénářů, jako je podvodná činnost.

Zastánci syntetických dat tvrdí, že mohou pomoci vyhodnotit i AI. v nedávný papír Suchi Saria, docentka strojového učení a zdravotní péče na Johns Hopkins University, publikovaná na konferenci AI, a její spoluautoři ukázali, jak lze techniky generování dat použít k extrapolaci různých populací pacientů z jediného souboru dat. To by mohlo být užitečné, pokud by například společnost měla data pouze od mladší populace New Yorku, ale chtěla pochopit, jak její umělá inteligence funguje u stárnoucí populace s vyšší prevalencí diabetu. Nyní zakládá vlastní společnost Bayesian Health, která bude tuto techniku ​​používat k testování lékařských systémů umělé inteligence.

Hranice předstírání

Ale jsou syntetická data přehnaná?

Pokud jde o soukromí, to, že jsou data ‚syntetická‘ a přímo neodpovídají skutečným uživatelským datům, neznamená, že nekódují citlivé informace o skutečných lidech, říká Aaron Roth, profesor počítačové a informační vědy na University of Pennsylvania. Ukázalo se, že některé techniky generování dat například přesně reprodukují obrázky nebo text nalezený v trénovacích datech, zatímco jiné jsou zranitelné vůči útokům, které je nutí tato data plně regurgitovat.

To by mohlo být v pořádku pro firmu, jako je Datagen, jejíž syntetická data nemají skrývat identitu jednotlivců, kteří souhlasili se skenováním. Byla by to ale špatná zpráva pro společnosti, které své řešení nabízejí jako způsob ochrany citlivých finančních informací nebo informací o pacientech.

Související příběh

Rok se deepfakes stal mainstreamem V roce 2020 se AI-syntetická média začala vzdalovat temným koutům internetu.

Výzkum naznačuje, že zejména kombinace dvou technik syntetických dat — diferenciální soukromí a generativní nepřátelské sítě „Může vytvořit nejsilnější ochranu soukromí,“ říká Bernease Herman, datový vědec z University of Washington eScience Institute. Skeptici se však obávají, že tato nuance se může ztratit v marketingovém žargonu prodejců syntetických dat, kteří nebudou vždy vědět, jaké techniky používají.

Mezitím jen málo důkazů naznačuje, že syntetická data mohou účinně zmírnit zkreslení systémů AI. Za prvé, extrapolace nových dat ze stávajícího souboru dat, který je zkreslený, nemusí nutně vést k reprezentativnějším datům. Surová data Datagenu například obsahují proporcionálně méně etnických menšin, což znamená, že ke generování falešných lidí z těchto skupin používá méně skutečných datových bodů. I když proces generování není zcela hádáním, tito falešní lidé se mohou stále pravděpodobněji lišit od reality. Pokud vaše tváře s tmavším odstínem pleti nejsou zrovna dobré aproximace tváří, pak ve skutečnosti problém neřešíte, říká O’Neil.

Za druhé, dokonale vyvážené soubory dat se automaticky nepřekládají do dokonale spravedlivých systémů umělé inteligence, říká Christo Wilson, docent informatiky na Northeastern University. Pokud by se poskytovatel kreditních karet pokoušel vyvinout algoritmus umělé inteligence pro hodnocení potenciálních dlužníků, neodstranilo by to veškerou možnou diskriminaci tím, že by ve svých datech jednoduše zastupoval bílé lidi stejně jako černochy. Diskriminace se stále může vkrádat prostřednictvím rozdílů mezi bílými a černými žadateli.

Aby se to ještě více zkomplikovalo, raný výzkum ukazuje, že v některých případech nemusí být dokonce možné dosáhnout obou soukromých a spravedlivá AI se syntetickými daty. v nedávný papír publikované na konferenci AI, se o to pokusili vědci z University of Toronto a Vector Institute pomocí rentgenových snímků hrudníku. Zjistili, že nebyli schopni vytvořit přesný lékařský systém umělé inteligence, když se pokusili vytvořit různorodý syntetický soubor dat prostřednictvím kombinace diferenciálního soukromí a generativních nepřátelských sítí.

Nic z toho neznamená, že by se neměla používat syntetická data. Ve skutečnosti se to může stát nutností. Jak se regulační orgány potýkají s potřebou testovat systémy umělé inteligence z hlediska souladu s právními předpisy, mohl by to být jediný přístup, který jim poskytne flexibilitu, kterou potřebují k vytváření cílených testovacích dat na vyžádání, říká O’Neil. O to důležitější je však nyní studovat a zodpovědět otázky týkající se jeho omezení.

Syntetická data se pravděpodobně časem zlepší, říká, ale ne náhodou.

skrýt