211service.com
Tato umělá inteligence vám umožňuje předstírat váš hlas, abyste mohli mluvit jako Barack Obama
paní Tech | Getty obrázky
Seznamte se s mým alter egem, Katie:
Přízvuk, emoce a intonace jsou moje. Ale nějak teď zním jako mladá žena s vysokým hlasem.
Můj ženský hlas kůže byla vytvořena Modulate.ai , společnost se sídlem v Cambridge, Massachusetts. Firma využívá strojové učení ke kopírování, modelování a manipulaci s vlastnostmi hlasu novým mocným způsobem.
Tato technologie daleko přesahuje jednoduché hlasové filtry, které vám umožní znít jako Kylo Ren. Pomocí tohoto přístupu je možné předpokládat jakýkoli věk, pohlaví nebo tón, který byste chtěli, a to vše v reálném čase. Nebo převzít hlas celebrity. Mohu vést dlouhý telefonický rozhovor v přestrojení za Katie, pokud si přeji.
Navštívil jsem centrálu Modulate, abych se dozvěděl o technologii a ambicích společnosti a probral etické důsledky používání umělé inteligence ke kopírování hlasu někoho jiného. Ve zvukově izolované kabině jsem vyzkoušel několik hlasových skinů společnosti.
Zde je můj skutečný hlas:
A tady je to krmeno přes další personu:
A být měněn mezi dvěma osobami v reálném čase.
Technologie hlasového modelování není dokonalá; každý nový hlas je trochu drsný. Ale je to pozoruhodně dobré a zlepšuje se tím, že využívá více vašich hlasových dat. A ukazuje, jak pokroky ve strojovém učení rychle začínají měnit digitální realitu. Modulate využívá generativní adversariální sítě (GAN) k zachycení a modelování zvukových vlastností hlasového signálu. GANy proti sobě staví dvě neuronové sítě v bitvě o zachycení a přesvědčivou reprodukci vlastností datové sady (viz The GANfather ).
Strojové učení umožnilo zaměnit tváře dvou lidí ve videu pomocí softwaru, který lze zdarma stáhnout z internetu (viz opět Fake America great ). Výzkumníci AI používají GAN a další techniky k manipulaci s vizuálními scénami a dokonce k úplnému vykouzlení falešné tváře .
Modulate má na svých stránkách ukázkový vzhled hlasu Baracka Obamy a spoluzakladatel a generální ředitel Mike Pappas řekl, že by bylo možné vytvořit jeden pro kohokoli, pokud bude dostatek tréninkových dat. Ale dodává, že společnost nezpřístupní vzhled celebrity bez souhlasu majitele. Trvá také na tom, že podvod není hlavním bodem.
Toto není technologie vytvořená k napodobování lidí, říká Pappas. Je navržen tak, aby vám dal nové příležitosti.
Modulate cílí na online hry jako Fornite nebo Call of Duty, ve kterých mohou hráči chatovat s cizími lidmi přes mikrofon. To může zlepšit hru, ale také to může otevřít dveře zneužívání a obtěžování.
Když chceme komunikovat online a mít opravdu hluboké zážitky, hlasy jsou zásadní, říká Pappas. Ale někteří lidé nejsou ochotni dát svůj hlas tam venku. V některých případech možná chci zůstat v anonymitě. V jiných případech se obávám, že prozradím svůj věk nebo pohlaví a budu obtěžován.
Charles mýdlo , profesor na NYU, který studuje šíření dezinformací, říká, že tato technologie se zdá výrazně pokročilejší než jiná technologie úpravy hlasu. A říká, že způsob, jakým umělá inteligence nyní dokáže manipulovat s videem a zvukem, má potenciál zásadně změnit média. Musíme začít přemýšlet o tom, co tvoří realitu, říká.
„Doposud byla kvalita technologie převodu hlasu nízká, takže lze snadno rozlišit převedený hlas,“ dodává Tuomas Virtanen , odborník na hlasovou syntézu a manipulaci na Tampere University ve Finsku. 'Dokážu si ale představit, že v blízké budoucnosti bude kvalita dostatečně dobrá, takže konverzi nebude možné snadno detekovat.'
Modulate si uvědomuje, že jeho technologie má potenciál být zneužita. Společnost říká, že bude požadovat ujištění, že každý zákazník, který kopíruje něčí hlas, má svolení této osoby. Vyvinula také technologii zvukového vodoznaku, kterou lze použít k detekci zkopírovaného hlasu. To by mohlo způsobit varování, pokud někdo například při hovoru používá falešný hlas.
„Do naší společnosti jsme od základů zabudovali etické záruky,“ říká spoluzakladatel a technický ředitel Carter Huffman, „od způsobu distribuce naší technologie přes výběr hlasových vzhledů, které nabízíme, až po vodoznaky našeho zvuku pro detekci v citlivých systémy.
Modulate může být schopen omezit zneužití své vlastní technologie, ale je možné, že jiní vyvinou podobnou technologii nezávisle a zpřístupní ji lidem ke zneužití. Otázkou je, do jaké míry by to mohlo být zneužito a jak důvtipný o tom bude veřejnost.
Pappas je optimistický, že potenciál pro padělky AI je často přehnaný. Je to určitě něco, kde to chcete znát, ale není to něco, kde se hroutí samotné aspekty společnosti, říká. Máme nástroje, jak to zvládnout.