Vi visar att bilden representationer i ett djupt neuralt nätverk (DNN) kan manipuleras för att efterlikna dem av andra naturliga bilder, med endast mindre, omärkliga perturbationer till den ursprungliga bilden. Previous methods for generating adversarial images focused on image perturbations designed to product missil class labels. Här koncentrerar vi oss istället på de inre skikten av DNN-representationer, för att producera en ny klass av kontradiktoriska bilder som skiljer sig kvalitativt från andra. Medan motståndaren är perceptuellt lik en bild, verkar dess inre representation anmärkningsvärt lik en annan bild, från en annan klass och bär lite om någon uppenbar likhet med inmatningen. Dessutom verkar de generiska och överensstämmer med utrymmet för naturliga bilder. Detta fenomen visar möjligheten att lura en DNN att förvirra nästan alla bilder med någon annan vald bild, och väcker frågor om DNN representationer, liksom egenskaper naturliga bilder själva.
Sabour m.fl. REF visade att kontradiktoriska bilder kan framställas genom att manipulera interna representationer för att efterlikna dem som finns i riktade bilder.
Adversarial Manipulation of Deep Representations
{'venue': 'ICLR 2016', 'journal': 'arXiv: Computer Vision and Pattern Recognition', 'mag_field_of_study': ['Computer Science']}