Djupa neurala nätverk (DNN) har visat sig vara sårbara för kontradiktoriska exempel som är ett resultat av att lägga små magnitud perturbationer till ingångar. Sådana kontradiktoriska exempel kan vilseleda DNN att producera motståndare utvalda resultat. Olika angreppsstrategier har föreslagits för att generera kontradiktoriska exempel, men hur man producerar dem med hög perceptuell kvalitet och effektivare kräver mer forskningsinsatser. I detta dokument föreslår vi AdvGAN att generera kontradiktoriska exempel med generativa kontradiktoriska nätverk (GANS), som kan lära sig och approximera fördelningen av ursprungliga fall. För AdvGAN, när generatorn är tränad, kan det generera motariska perturbationer effektivt för alla fall, så att potentiellt accelerera kontrarial träning som försvar. Vi tillämpar AdvGAN i både semi-whitebox och black-box attackinställningar. I semi-whitebox attacker, det finns ingen anledning att komma åt den ursprungliga målmodellen efter att generatorn är tränad, i motsats till traditionella white-box attacker. I Black-box attacker tränar vi dynamiskt en destillerad modell för Black-box modellen och optimerar generatorn därefter. Motståndskraftiga exempel genererade av AdvGAN på olika målmodeller har hög attacksuccé under toppmoderna försvar jämfört med andra attacker. Vår attack har placerat den första med 92,76% noggrannhet på en offentlig MNIST black-box attack utmaning (M-dry et al., 2017b).
Xiao m.fl. REF genererar kontradiktoriska exempel med kontradiktoriska nätverk, där GAN genererar perturbationer.
Generating Adversarial Examples with Adversarial Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}