Ovládání zbraní AI nemusí být možné, varuje Henry Kissinger

Kategorie: Umělá inteligence Vyslán 1. března

Henry Kissinger, bývalý americký ministr zahraničí a kontroverzní gigant americké zahraniční politiky, věří, že řídit vývoj AI zbraní může být mnohem těžší než těch jaderných.

Varovné výstřely: Ve včerejším projevu na akci na MIT Kissinger varoval, že nový vývoj v AI přinese nejrůznější nebezpečí. Zejména se obává, že AI zbraně by mohly být hůře ovladatelné než jaderné zbraně, protože vývoj technologie bude probíhat tajně: S AI je nevědomost druhé strany jednou z vašich nejlepších zbraní – sdílení bude mnohem obtížnější.

Mírové hnutí: Není jediný, kdo se obává závodů ve zbrojení AI. Značný počet akademiků, průmyslových výzkumníků a technologických osobností podpořil a kampaň za zákaz používání autonomních zbraní .

Obchod se zbraněmi: Problém je to však náročný. Jak píše bezpečnostní výzkumník Paul Scharre v nedávné knize, Žádná armáda , autonomie se vkrádá do zbraňových systémů po celá desetiletí. Není vždy snadné nakreslit čáru kolem autonomních systémů a technologie je lákavá, protože ji lze použít ke zvýšení spolehlivosti zbraní.

Ponižování: Kissinger byl v poslední době něco jako odpůrce AI. Poté, co se dozvěděl o AlphaGo, napsal článek do Atlantiku, který varoval, že tato technologie by mohla změnit povahu lidských znalostí a objevů způsoby, které v konečném důsledku poškodí lidstvo ( Jak končí osvícení ).

Osvojením si určitých kompetencí rychleji a definitivně než lidé by [AI] mohla postupem času snížit lidskou kompetentnost a samotnou lidskou kondici, protože ji přeměňuje na data, napsal Kissinger. Filosoficky, intelektuálně – ve všech směrech – lidská společnost není připravena na vzestup umělé inteligence.