Djupa neurala nätverk (DNN) har visat sig vara användbara i ett brett spektrum av tillämpningar. De är dock också kända för att vara sårbara för kontradiktoriska prover. Genom att omvandla ett normalt prov med några noggrant tillverkade mänskliga icke-synliga perturbationer, även mycket exakta DNN gör felaktiga beslut. Flera försvarsmekanismer har föreslagits som syftar till att hindra uppkomsten av sådana kontradiktoriska prover. Ett nyligen utfört arbete visar emellertid att de flesta av dem är ineffektiva. I detta arbete föreslår vi ett alternativt tillvägagångssätt för att upptäcka kontradiktoriska prover vid körning. Vår huvudsakliga observation är att kontradiktoriska prover är mycket känsligare än normala prover om vi inför slumpmässiga mutationer på DNN. Vi föreslår därför först ett mått på "känslighet" och visar empiriskt att normala prover och kontradiktoriska prover har särskiljande känslighet. Vi integrerar sedan statistisk modellkontroll och mutationstestning för att kontrollera om ett ingångsprov sannolikt kommer att vara normalt eller kontradiktoriskt vid körtiden genom att mäta dess känslighet. Vi utvärderade vår strategi på MNIST och CIFAR10 datasetet. Resultaten visar att vår strategi påvisar kontradiktoriska prover som genereras av toppmoderna angreppsmetoder på ett effektivt och korrekt sätt.
Dessutom antas mutationstestning för att hitta kontradiktoriska prover vid körtiden REF.
Adversarial Sample Detection for Deep Neural Network through Model Mutation Testing
{'venue': 'DBLP:conf/icse/2019', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}