Djupa neurala nätverk är sårbara för kontradiktoriska exempel, som ger säkerhetsproblem på dessa algoritmer på grund av de potentiellt allvarliga konsekvenserna. Motgångar fungerar som en viktig surrogat för att utvärdera robustheten hos djupinlärningsmodeller innan de sätts in. Men de flesta av de befintliga kontradiktoriska attackerna kan bara lura en svart låda modell med en låg framgång. För att ta itu med denna fråga föreslår vi en bred klass av momentumbaserade iterativa algoritmer för att öka de kontradiktoriska attackerna. Genom att integrera momentumtermen i iterativ process för attacker, våra metoder kan stabilisera uppdatera riktningar och fly från fattiga lokala maxima under iterationer, vilket resulterar i mer överförbara kontradiktoriska exempel. För att ytterligare förbättra framgångarna för Black-box attacker, tillämpar vi momentum iterativa algoritmer på en ensemble av modeller, och visar att de motsträviga utbildade modeller med en stark försvarsförmåga också är sårbara för våra Black-box attacker. Vi hoppas att de föreslagna metoderna kommer att fungera som ett riktmärke för att utvärdera robustheten hos olika djupa modeller och försvarsmetoder. Med denna metod vann vi de första platserna i NIPS 2017 Non-targeted Adversarial Attack och Targeted Adversarial Attack tävlingar. * Motsvarande författare. Alperna: 94,39 % Hund: 99,99 % Puffer: 97,99 % Krabba: 100,00 %
Momentum Iterative Fast Gradient Sign Method (MI-FGSM) REF integrerar momentum term i attackprocessen för att stabilisera uppdatera riktningar och fly fattiga lokala maxima.
Boosting Adversarial Attacks with Momentum
{'venue': '2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition', 'journal': '2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition', 'mag_field_of_study': ['Computer Science', 'Mathematics']}