Lidské mozky a AI lze hacknout pomocí těchto podivných upravených fotografií

Kategorie: Umělá inteligence Vyslán 1. března

Algoritmy počítačového vidění nejsou jedinou formou inteligence, kterou lze oklamat manipulovanými fotografiemi.

A jé: Výzkumníci použili AI k navržení prvních fotografií, které oklamou lidi i algoritmy počítačového vidění, jako je výše: nezměněný obrázek kočky vlevo vedle verze, která byla upravena tak, aby vypadala podivně jako pes.

Pro vědu! Nalezení lidských slabin tímto způsobem by mohlo zlepšit naše systémy AI. V novinách který popisuje tyto zmanipulované fotografie – spoluautorem je Ian Goodfellow, tvůrce generativních adversariálních sítí (GAN) – výzkumníci poukazují na to, že pokud najdeme určitou třídu pozměněných obrázků, které nemohou oklamat lidskou mysl, naznačuje to, že podobný mechanismus může existovat ve strojovém učení. Většina systémů umělé inteligence je koneckonců volně založena na lidském mozku.

Proč na tom záleží: Teď, když tam jsou samolepky, které lze nalepit fyzické objekty ke zmatení systémů počítačového vidění, takzvané adversariální příklady jsou skutečným problémem. A pokud autonomní vozidla nemají způsob, jak zajistit, aby jejich systémy viděly každou značku stop, nebudou v dohledné době připraveny na cestu.