Konvolutionella neurala nätverk har visat sin kraftfulla förmåga på olika uppgifter under de senaste åren. De är dock extremt sårbara för kontradiktoriska exempel. Dvs., rena bilder, med omärkliga perturbationer läggs till, kan lätt orsaka konvolutionella neurala nätverk att misslyckas. I detta dokument föreslår vi att utnyttja randomisering för att mildra kontradiktoriska effekter. Specifikt, Vi använder två randomiseringsåtgärder: slumpmässig storleksändring, som ändrar indata bilder till en slumpmässig storlek, och slumpmässig stoppning, som sätter nollor runt indata bilder på ett slumpmässigt sätt. Omfattande experiment visar att den föreslagna randomiseringsmetoden är mycket effektiv för att försvara mot både enstaka och iterativa attacker. Vår metod har också följande fördelar: 1) ingen ytterligare utbildning eller finjustering, 2) mycket få ytterligare beräkningar, 3) kompatibel med andra kontradiktoriska försvarsmetoder. Genom att kombinera den föreslagna randomiseringsmetoden med en kontradiktoriskt tränad modell, uppnår den en normaliserad poäng på 0.924 (rankad nr 2 bland 107 försvarsteam) i NIPS 2017 kontraariska exempel försvar utmaning, vilket är mycket bättre än att använda kontraarial träning ensam med en normaliserad poäng på 0.773 (rankad nr 56). Koden är tillgänglig för allmänheten på https: /
Till exempel använde REF slumpmässig storleksändring och slumpmässig stoppning för att förstöra den specifika strukturen av motstående perturbationer.
Mitigating Adversarial Effects Through Randomization
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}