211service.com
Proč by výzkumníci AI měli přehodnotit protestní zapojení do vojenských projektů
Jeremy port
Pracovníci technologického průmyslu, kteří protestovali proti kontraktům s armádou, by podle jednoho poradce ministerstva obrany měli přehodnotit svůj postoj.
Brendan McCord – odborník na AI, který se podílel na Project Maven, programu ministerstva obrany na urychlení umělé inteligence a strojového učení pro vojenské účely – řekl, že konstruktivní zapojení ozbrojených sil je nezbytné, aby se předešlo špatným rozhodnutím.
V červnu Google řekl po více než 4 000 zaměstnancích by již s Project Maven nefungoval podepsal dopis která společnost obvinila z válečného podnikání.
Ale na EmTech Digital, konferenci MIT Technology Review na AI, McCord řekl, že pro společnost jako celek by bylo lepší, kdyby taková spolupráce pokračovala, a pro ty, kteří nesouhlasí, zaměstnanci zapojení do projektů AI, aby přehodnotili svůj postoj.
Většina lidí zde dnes souhlasí s tím, že armády a jejich role v odstrašování, urážkách a obraně jsou součástí světa a v dohledné době budou, řekl. Strategie konstruktivního zapojení versus strategie opt-out je mnohem optimálnější.
Práce na AI pro obranu vás neučiní méně zásadovými, dodal.
Tajemná povaha projektu Maven, o kterém se říkalo, že se zaměřuje na zlepšení analýzy záběrů zachycených vojenskými drony, vyvolala znepokojení u široké skupiny výzkumníků AI. Ale americké ozbrojené síly zůstávají mocnou silou pro prosazování míru a stability ve světě, řekl McCord, odrážeje argumenty, že výzkumníci AI, kteří z principu odmítají armádu, ve skutečnosti poskytují výhodu těm, kteří mají méně přísné etické standardy, včetně jiných zemí.
Zatímco McCord řekl, že by neočekával, že protiváleční pacifisté změní názor, požádal výzkumníky, aby zvážili, co by se stalo, kdyby jiné země dělaly vlastní pokroky v rozvíjejících se oblastech. Pozitivnější přístup k armádě byl obzvláště důležitý, dodal, protože vlády nyní hrají při vývoji nových technologických objevů menší roli než kdysi.
Na konci studené války se těžiště inovací přesunulo do soukromého sektoru, řekl. Svět se změnil. Schopnost vlády a role vlády se zmenšily do bodu, kdy podle mého názoru nikdy nebyly tak nízké. Čistým výsledkem je, že velké technologické společnosti převzaly plášť – ať už chtěly nebo ne – být arbitry. Často jsou samoregulační.
Mnoho významných technologických pokroků, včetně internetu, GPS a virtuálních asistentů, bylo výsledkem investic ministerstva obrany. Ale od konce studené války se výdaje ministerstva obrany na výzkum a vývoj snížily. V polovině 80. let byly vládní a soukromé rozpočty na výzkum a vývoj zhruba stejné – kolem 55 miliard dolarů ročně. Od té doby vláda zdvojnásobila své investice, zatímco soukromé společnosti, jako jsou Google, Microsoft, Facebook a Amazon, dramaticky zvýšily soukromé rozpočty na více než 350 miliard dolarů každý rok.
NSF, National Center for Science and Engineering Statistics, National Patterns of R&D Resources (roční řada)
Ačkoli velké technologické společnosti nemusí být ve své práci transparentní, vláda přišla kritizovat svou vlastní. Informoval o tom začátkem týdne Intercept že Pentagon zamítl žádosti o svobodu informací o data o projektu Maven , tvrdí, že její dokumenty jsou vyňaty z veřejné kontroly.
McCord si zachovává roli poradce na ministerstvu obrany, ale nedávno tam opustil svou práci na plný úvazek a přešel do soukromého sektoru. Nyní má vedoucí pozici v Tulco Labs, nové společnosti zaměřené na inovace v práci, kterou založil zábavní miliardář Thomas Tull.
Na závěr řekl, že je nezbytné, aby zaměstnanci průmyslu pomáhali držet své zaměstnavatele pod kontrolou, citoval biologa a teoretika E.O. Wilson.
Skutečným problémem lidstva je podle něj to, že máme paleolitické emoce, středověké instituce a technologii podobnou bohům.