211service.com
Naše podivné chování během pandemie si zahrává s modely AI
Getty
V týdnu od 12. do 18. dubna bylo 10 nejčastěji vyhledávaných výrazů na Amazon.com: toaletní papír, maska na obličej, dezinfekční prostředek na ruce, papírové ručníky, sprej Lysol, ubrousky Clorox, maska, Lysol, masky na ochranu proti bakteriím a maska N95 . Lidé nejenom hledali, ale také nakupovali – a to ve velkém. Většina lidí hledajících masky nakonec koupila nový nejprodávanější Amazon #1, maska na obličej, balení po 50 ks .
Když udeřil covid-19, začali jsme kupovat věci, které jsme si nikdy předtím nekoupili. Posun byl náhlý: hlavní pilíře první desítky Amazonu – pouzdra na telefony, nabíječky na telefony, Lego – byly sraženy z žebříčků během několika dní. Nozzle, londýnská poradenská společnost specializující se na algoritmickou reklamu pro prodejce Amazonu, zachytila rychlou změnu v tomto jednoduchém grafu.
Na konci února trvalo méně než týden, než se 10 nejvyhledávanějších výrazů na Amazonu ve více zemích zaplnilo produkty souvisejícími s covid-19. Šíření pandemie můžete sledovat podle toho, co jsme nakupovali: položky dosáhly vrcholu nejprve v Itálii, poté ve Španělsku, Francii, Kanadě a USA. Velká Británie a Německo mírně zaostávají. Je to neuvěřitelný přechod v rozmezí pěti dnů, říká Rael Cline, generální ředitel Nozzle. Dominové efekty byly pozorovány napříč maloobchodními dodavatelskými řetězci.
Ale také ovlivnily umělou inteligenci, což způsobilo škytavku pro algoritmy, které běží v zákulisí při správě zásob, odhalování podvodů, marketingu a dalších. Modely strojového učení trénované na normální lidské chování nyní zjišťují, že normální se změnilo a některé již nefungují tak, jak by měly.
Jak špatná je situace, závisí na tom, s kým mluvíte. Podle společnosti Pactera Edge, globální poradenské společnosti pro umělou inteligenci, je automatizace na chvostu. Jiní říkají, že pozorně sledují automatizované systémy, které jsou jen o zdržení a v případě potřeby zakročit s manuální korekcí.
Je jasné, že pandemie odhalila, jak jsou naše životy propojeny s umělou inteligencí, a odhalila jemnou spoluzávislost, ve které změny našeho chování mění fungování umělé inteligence a změny způsobu fungování umělé inteligence mění naše chování. To je také připomínkou toho, že klíčová zůstává lidská účast v automatizovaných systémech. Nikdy nemůžete sedět a zapomenout, když jste v tak mimořádných podmínkách, říká Cline.
Více o koronaviru
Naše nejdůležitější pokrytí covid-19 je zdarma, včetně:
Co je to stádová imunita?
Jak koronavirus funguje?
Jaké jsou potenciální způsoby léčby?
Které léky fungují nejlépe?
Jaký je správný způsob sociálního distancování?
Další časté dotazy ohledně koronaviru
---
Newsletter: Coronavirus Tech Report
Zoom show: Radio Corona
Viz také:
Veškeré naše pokrytí covid-19
Zvláštní vydání covid-19
Kliknutím sem se přihlaste a podpořte naši neziskovou žurnalistiku.
Modely strojového učení jsou navrženy tak, aby reagovaly na změny. Většina je ale také křehká; fungují špatně, když se vstupní data příliš liší od dat, na kterých byli trénováni. Je chybou předpokládat, že můžete nastavit systém umělé inteligence a odejít, říká Rajeev Sharma, globální viceprezident společnosti Pactera Edge: AI je živý a dýchající motor.
Sharma mluvila s několika společnostmi, které se potýkají s nemotornou AI. Jedna společnost, která dodává omáčky a koření maloobchodníkům v Indii, potřebovala pomoc s opravou svého automatizovaného systému správy zásob, když hromadné objednávky porušily její prediktivní algoritmy. Prodejní prognózy systému, na které se společnost spoléhala při objednávání zásob, již neodpovídaly tomu, co se skutečně prodávalo. Nikdy nebyl trénován na hrotu, jako je tento, takže systém byl nefunkční, říká Sharma.
Jiná firma používá AI k posouzení sentimentu zpravodajských článků a na základě výsledků poskytuje denní investiční doporučení. Ale vzhledem k tomu, že zprávy jsou v tuto chvíli chmurnější než obvykle, budou rady velmi zkreslené, říká Sharma. A velká streamovací firma, která měla náhlý příliv předplatitelů lačných obsahu, má také problémy se svými doporučovacími algoritmy, říká. Společnost využívá strojové učení k navrhování relevantního a personalizovaného obsahu divákům, aby se neustále vraceli. Náhlá změna v údajích o předplatitelích však způsobovala, že doporučení jeho systému byla méně přesná.
Mnoho z těchto problémů s modely vzniká proto, že stále více podniků kupuje systémy strojového učení, ale chybí jim vlastní know-how potřebné k jejich údržbě. Přeškolení modelu může vyžadovat odborný lidský zásah.
Současná krize také ukázala, že věci se mohou zhoršit, než dosti vanilkové nejhorší scénáře zahrnuté v tréninkových sadách. Sharma si myslí, že více AI by se mělo trénovat nejen na vzestupy a pády posledních několika let, ale také na podivné události, jako je Velká deprese 30. let, krach akciového trhu Černé pondělí v roce 1987 a finanční krize v letech 2007-2008. Pandemie, jako je tato, je dokonalým spouštěčem pro vytvoření lepších modelů strojového učení, říká.
I tak se nelze připravit na všechno. Obecně platí, že pokud systém strojového učení nevidí to, co očekává, budete mít problémy, říká David Excell, zakladatel společnosti Featuresspace, společnosti zabývající se analýzou chování, která používá AI k odhalování podvodů s kreditními kartami. Možná překvapivě, Featuresspace nezaznamenal svůj AI zásah příliš špatně. Lidé stále nakupují věci na Amazonu a předplácejí Netflix tak, jak byli předtím, ale nekupují velké vstupenky ani neutrácejí na nových místech, což je chování, které může vyvolat podezření. Utrácení lidí je kontrakcí jejich starých zvyků, říká Excell.
Inženýři firmy museli pouze zasáhnout, aby se přizpůsobili prudkému nárůstu lidí nakupujících zahradní techniku a elektrické nářadí, říká Excell. Toto jsou druhy anomálních nákupů se střední cenou, které mohou algoritmy detekce podvodů zachytit. Myslím, že je zde určitě větší dohled, říká Excell. Svět se změnil a data se změnila.
Správný tón
Londýnská společnost Phrasee je další společností zabývající se umělou inteligencí, která se zabývá praktickými zkušenostmi. Využívá zpracování v přirozeném jazyce a strojové učení k vytváření kopií e-mailového marketingu nebo reklam na Facebooku jménem svých klientů. Součástí jeho práce je zajistit správný tón. Jeho umělá inteligence funguje tak, že generuje spoustu možných frází a poté je spouští neuronovou sítí, která vybere ty nejlepší. Ale protože generování přirozeného jazyka může dopadnout velmi špatně, Phrasee vždy nechá lidi zkontrolovat, co do jeho AI vstupuje a co vychází.
Když zasáhl covid-19, Phrasee si uvědomil, že může být zapotřebí větší citlivost než obvykle, a začal filtrovat další jazyk. Společnost zakázala konkrétní fráze, jako je šíření virů, a nepovoluje výrazy, které odkazují na odrazující aktivity, jako je oblečení na párty. Dokonce byly vyřazeny emotikony, které mohou být považovány za příliš šťastné nebo příliš alarmující. A také vypustil termíny, které mohou vyvolávat úzkost, jako je OMG, buďte připraveni, zásobte se a vzchopte se. Lidé nechtějí, aby v nich marketing vyvolával pocit úzkosti a strachu – víte, jako, tato dohoda brzy vyprší, tlak a tlak, říká Parry Malm, generální ředitel společnosti.
Jako mikrokosmos pro maloobchodní průmysl jako celek však Amazon nemůžete porazit. Je to také místo, kde se provádějí některé z nejjemnějších úprav v zákulisí. Protože se Amazon a 2,5 milionu prodejců třetích stran, které podporuje, snaží uspokojit poptávku, provádí drobné úpravy svých algoritmů, aby pomohly rozložit zátěž.
Většina prodejců Amazonu spoléhá na Amazon při plnění jejich objednávek. Prodejci skladují své položky ve skladu Amazonu a Amazon se stará o veškerou logistiku, doručuje lidem domů a vyřizuje vrácené zboží. Následně propaguje prodejce, jejichž objednávky sama plní. Pokud například hledáte konkrétní položku, jako je Nintendo Switch, výsledek, který se zobrazí nahoře, vedle výrazného tlačítka Přidat do košíku, bude pravděpodobně pocházet od dodavatele, který používá logistiku Amazonu, než od dodavatele, který 't.
Ale v posledních několika týdnech to Amazon obrátil, říká Cline. Aby se zmírnila poptávka ve vlastních skladech, zdá se, že její algoritmy nyní spíše podporují prodejce, kteří se starají o své vlastní dodávky.
Nestálé trhy
Tento druh nastavení by bylo obtížné provést bez ručního zásahu. Situace je tak nestabilní, říká Cline. Minulý týden se snažíte optimalizovat pro toaletní papír a tento týden si chce každý koupit puzzle nebo vybavení do tělocvičny.
Úpravy, které Amazon provádí ve svých algoritmech, pak mají dominový efekt na algoritmy, které prodejci používají k rozhodování o tom, co utratit za online reklamu. Pokaždé, když se načte webová stránka s reklamami, proběhne superrychlá aukce, kde se automatizovaní dražitelé mezi sebou rozhodují, kdo naplní každé reklamní pole. Částka, kterou se tyto algoritmy rozhodnou utratit za reklamu, závisí na mnoha proměnných, ale nakonec je rozhodnutí založeno na odhadu toho, jakou pro ně stojíte vy, oči na stránce. Existuje mnoho způsobů, jak předvídat chování zákazníků, včetně nejen údajů o vašich minulých nákupech, ale také rozškatulkování, do kterého vás reklamní společnosti umístily na základě vaší online aktivity.
Ale nyní je jedním z nejlepších předpovědí toho, zda někdo, kdo klikne na reklamu, váš produkt, jak dlouho říkáte, že bude trvat jeho dodání, říká Cline. Nozzle tedy mluví se zákazníky o úpravě jejich algoritmů, aby to vzaly v úvahu. Pokud si například myslíte, že nemůžete dodávat rychleji než konkurence, možná by nemělo cenu zkoušet je v aukci reklam předčit. Na druhou stranu, pokud víte, že vašemu konkurentovi došly zásoby, můžete se pustit do levného hazardu, který nebude nabízet.
To vše je možné pouze se specializovaným týmem, který věci sleduje, říká Cline. Myslí si, že současná situace otevírá oči mnoha lidem, kteří předpokládali, že všechny automatizované systémy mohou fungovat samy. Potřebujete tým vědy o datech, který dokáže propojit to, co se děje ve světě, s tím, co se děje v algoritmech, říká. Algoritmus by nikdy nic z toho nezachytil.
Se vším souvisejícím byl dopad pandemie pociťován široko daleko a dotýkal se mechanismů, které v typičtějších dobách zůstávají skryté. Pokud hledáme stříbrnou hranici, pak je čas zhodnotit tyto nově vystavené systémy a zeptat se, jak by mohly být navrženy lépe a odolnější. Pokud se má strojům věřit, musíme je hlídat.