Framsteg inom maskininlärning banar väg för artificiell generation av högkvalitativa bilder och videor. I detta dokument visar vi dock att framtagning av syntetiska prover med generativa modeller kan leda till informationsläckage, d.v.s. en motståndare kan härleda information om individer vars data används för att utbilda modellerna. I detta syfte utbildar vi ett Generative Adversarial Network (GAN), som kombinerar en diskriminerande och generativ modell, för att upptäcka överutrustning och känna igen ingångar som var en del av utbildningsdataset genom att förlita sig på discriminatorns förmåga att lära sig statistiska skillnader i distributioner. Vi presenterar attacker baserade på både vit- och svart-box tillgång till målmodellen, och visar hur man kan förbättra den senare med hjälp av begränsad extra kunskap om prover i datasetet. Vi testar våra attacker på flera state-of-the-art modeller, såsom Deep Convolutional GAN (DCGAN), Boundary Equilibrium GAN (BEGAN), och kombinationen av DCGAN med en Varial Autoencoder (DCGAN+VAE), med hjälp av datauppsättningar som består av komplexa representationer av ansikten (LFW), objekt (CIFAR-10), samt medicinska bilder (Diabetisk retinopati). De vit-box attacker är 100% framgångsrika att dra slutsatsen vilka prover användes för att träna målmodellen, och de svart-box de kan sluta utbildning sätta medlemskap med upp till över 80% noggrannhet.
Hayes och Al. REF använde generativa kontradiktoriska nätverk för att utföra medlemsangrepp på generativa modeller.
LOGAN: Evaluating Privacy Leakage of Generative Models Using Generative Adversarial Networks
{'venue': 'Proceedings on Privacy Enhancing Technologies (PoPETs), Vol. 2019, Issue 1', 'journal': None, 'mag_field_of_study': ['Computer Science']}