Flera olika metoder för att generera kontradiktoriska exempel har föreslagits för att attackera djupa neurala nätverk. Dessa metoder innebär antingen direkt beräkning gradienter med avseende på bild pixlar, eller direkt lösa en optimering på bild pixlar. I detta arbete presenterar vi en i grunden ny metod för att generera kontradiktoriska exempel som är snabba att utföra och ger exceptionell mångfald i produktionen. Vi tränar effektivt feed-forward neurala nätverk på ett självövervakat sätt för att generera kontrala exempel mot ett målnätverk eller uppsättning av nätverk. Vi kallar ett sådant nätverk ett ADversarial Transformation Network (ATN). ATN:er är utbildade för att generera kontradiktoriska exempel som minimalt modifierar klassificeringens utgångar med tanke på den ursprungliga inmatningen, samtidigt som den nya klassificeringen begränsas till att matcha en kontradiktorisk målklass. Vi presenterar metoder för att träna ATNs och analysera deras effektivitet med inriktning på en mängd MNIST klassificeringar samt den senaste state-of-the-art ImageNet classifier Inception ResNet v2.
Baluja och Fischer REF utbildade Adversarial Transformation Networks för att generera kontradiktoriska exempel med en mycket stor mångfald mot ett målnätverk eller uppsättning av nätverk.
Adversarial Transformation Networks: Learning to Generate Adversarial Examples
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}