Neurala nätverk är sårbara för kontradiktoriska exempel. Detta fenomen utgör ett hot mot deras tillämpningar i säkerhetskänsliga system. Det är därför viktigt att utveckla effektiva försvarsmetoder för att stärka robustheten i neurala nätverk mot kontradiktoriska attacker. Många tekniker har föreslagits, men bara ett fåtal av dem är validerade på stora datauppsättningar som ImageNet dataset. Vi föreslår hög nivå representation guidad denoiser (HGD) som ett försvar för bildklassificering. HGD använder en U-nätstruktur för att fånga in flerskalig information. Den servar som en förbehandling steg för att ta bort den kontradiktoriska buller från inmatningen, och matar dess utdata till målmodellen. För att träna HGD definierar vi förlustfunktionen som skillnaden mellan målmodellens utgångar som aktiveras av den rena bilden och denoiserade bilden. Jämfört med den traditionella denoiser som medför förlustfunktion på pixelnivå är HGD bättre på att undertrycka påverkan av kontradiktoriskt buller. Jämfört med ensemblens kontradiktoriska träning, som är den toppmoderna försvarsmetoden, har HGD tre fördelar. Först, med HGD som försvar, målmodellen är mer robust till antingen whitebox eller svart-box kontraversarial attacker. För det andra kan HGD tränas på en liten delmängd av bilderna och generaliseras väl till andra bilder, vilket gör utbildningen mycket enklare på storskaliga datauppsättningar. För det tredje kan HGD överföras för att försvara andra modeller än den som styr den. Vi validerade vidare den föreslagna metoden i NIPS kontradiktoriska datauppsättningar och uppnådde toppmoderna resultat.
Liao m.fl. REF utvecklade Högnivårepresentation Guidad Denoiser (HGD) som ett försvar för bildklassificeringssystem.
Defense against Adversarial Attacks Using High-Level Representation Guided Denoiser
{'venue': 'CVPR 2018', 'journal': None, 'mag_field_of_study': ['Computer Science']}