Djupt lärande har avsevärt förbättrat visuellt igenkännande under de senaste åren. Den senaste tidens forskning har dock visat att det finns många kontradiktoriska exempel som kan påverka en sådan arkitektur negativt. Detta dokument fokuserar på att upptäcka dessa kontradiktoriska exempel genom att analysera om de kommer från samma distribution som de normala exemplen. Istället för att direkt träna ett djupt neuralt nätverk för att upptäcka motgångar, föreslogs ett mycket enklare tillvägagångssätt baserat på statistik över utfall från konvolutionslager. En kaskadklassare utformades för att effektivt upptäcka motgångar. Dessutom, tränas från en särskild kontradiktorisk generator mekanism, den resulterande klassificeraren kan framgångsrikt upptäcka motgångar från en helt annan mekanism också. Den resulterande klassificeringen är icke-subdifferentiable, vilket skapar en svårighet för motståndare att attackera genom att använda lutningen av klassificeringen. Efter att ha upptäckt kontradiktoriska exempel, visar vi att många av dem kan återvinnas genom att helt enkelt utföra ett litet genomsnittligt filter på bilden. Dessa resultat bör leda till mer insikter om klassificeringsmekanismerna i djupa konvolutionella neurala nätverk.
Löjtnant m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m för m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m. uppfunnit en annan detektionsmetod baserad på observation av den sista lagerutgångar av konvolutionella neurala nätverk REF.
Adversarial Examples Detection in Deep Networks with Convolutional Filter Statistics
{'venue': '2017 IEEE International Conference on Computer Vision (ICCV)', 'journal': '2017 IEEE International Conference on Computer Vision (ICCV)', 'mag_field_of_study': ['Computer Science']}