Motgångar av normala bilder är vanligtvis omärkliga för människor, men de kan allvarligt förväxla toppmoderna modeller för maskininlärning. Vad gör dem så speciella i ögonen på bildsorterare? I detta dokument visar vi empiriskt att kontradiktoriska exempel främst ligger i de lågsannolikhetsområden för utbildningsdistributionen, oberoende av attacktyper och riktade modeller. Med hjälp av statistisk hypotes testning, finner vi att moderna neural densitet modeller är förvånansvärt bra på att upptäcka omärkliga bild perturbationer. Baserat på denna upptäckt, vi utformade PixelDefend, en ny metod som renar en illasinnad störd bild genom att flytta den tillbaka mot distributionen sett i träningsdata. Den renade bilden körs sedan genom en omodifierad klassificering, vilket gör vår metod agnostisk för både klassificerings- och angreppsmetoden. Som ett resultat kan PixelDefend användas för att skydda redan utplacerade modeller och kombineras med andra modellspecifika försvar. Experiment visar att vår metod avsevärt förbättrar motståndskraften genom ett brett utbud av toppmoderna angreppsmetoder, vilket ökar noggrannheten vid den starkaste attacken från 63% till 84% för Fashion MNIST och från 32% till 70% för CIFAR
PixelFörsvarad av Song et al. I REF föreslås generativa modeller för att flytta kontradiktoriska bilder mot den distribution som visas i datan.
PixelDefend: Leveraging Generative Models to Understand and Defend against Adversarial Examples
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}