Vi undersöker metoder för att ta fram kontradiktoriska exempel på djupa generativa modeller som variations autoencoder (VAE) och VAE-GAN. Djuplärande arkitekturer är kända för att vara sårbara för kontradiktoriska exempel, men tidigare arbete har fokuserat på tillämpningen av kontradiktoriska exempel på klassificeringsuppgifter. Djupa generativa modeller har nyligen blivit populära på grund av deras förmåga att modellera datadistributioner och generera realistiska exempel från dessa distributioner. Vi presenterar tre klasser av attacker mot VAE- och VAE-GAN-arkitekturerna och demonstrerar dem mot nätverk som är utbildade på MNIST, SVHN och CelebA. Vår första attack utnyttjar klassifikationsbaserade motståndare genom att fästa en klassificerare vid den utbildade kodaren för målgenerativ modell, som sedan kan användas för att indirekt manipulera den latenta representationen. Vår andra attack använder direkt VAE-förlustfunktionen för att generera en måluppbyggnadsbild från det kontradiktoriska exemplet. Vår tredje attack går bortom att förlita sig på klassificering eller standardförlust för lutningen och optimerar direkt mot skillnader i källa och mål latenta representationer. Vi motiverar också varför en angripare kan vara intresserad av att distribuera sådana tekniker mot ett mål generativt nätverk. 2018 IEEE symposium om säkerhet och integritet workshops
Några exempel på kontradiktoriska ingångar för kodare-baserade generativa modeller som Varial AutoEncoder (VAE) och VAE-GAN analyseras i REF.
Adversarial Examples for Generative Models
{'venue': '2018 IEEE Security and Privacy Workshops (SPW)', 'journal': '2018 IEEE Security and Privacy Workshops (SPW)', 'mag_field_of_study': ['Computer Science', 'Mathematics']}