I en medlem inference attack, en angripare syftar till att dra slutsatsen om ett dataprov är i en mål klassificerare utbildning dataset eller inte. Särskilt, med tanke på en svart-box tillgång till målet klassificerare, tränar angriparen en binär klassificerare, som tar ett dataprov förtroende poäng vektor förutspås av målet klassificerare som en ingång och förutspår att dataprovet ska vara en medlem eller icke-medlem av målet klassificeraren träningsdataset. Medlemskapsintrång innebär allvarliga integritets- och säkerhetshot mot utbildningsdatasetet. De flesta befintliga försvar utnyttja differential integritet när utbildning målet klassificerare eller legalisera utbildningsprocessen för målet klassificerare. Dessa försvar lider av två viktiga begränsningar: 1) de har inte formella nytta-förlust garantier för förtroende poäng vektorer, och 2) de uppnår suboptimal integritet-användning kompromisser. I detta arbete föreslår vi MemGuard, det första försvaret med formella förluster garantier mot Black-box medlemskap inference attacker. I stället för att manipulera utbildningsprocessen för målklassaren, ger MemGuard buller till varje konfidensintervall vektor som förutses av målklassaren. Vår viktigaste observation är att angripare använder en klassificerare för att förutsäga medlem eller icke-medlem och klassificerare är sårbar för kontradiktoriska exempel. Baserat på observationen föreslår vi att lägga till en noggrant utformad ljudvektor till en konfidensintervall vektor för att förvandla den till ett kontradiktoriskt exempel som vilseleder angriparens klassificering. MemGuard arbetar i två faser. I fas I hittar MemGuard en noggrant utformad ljudvektor som kan förvandla en konfidensintervall vektor till en kontradiktorisk exempel, som sannolikt vilseleder angriparens klassificering för att göra en slumpmässig gissning på medlem eller icke-medlem. Vi hittar en så noggrant utformad ljudvektor genom en ny metod att vi designar för att införliva de unika bruksförlustbegränsningarna på ljudvektorn. I fas II, Mem-Guard lägger buller vektorn till konfidensintervall vektorn med en viss sannolikhet, som väljs för att tillfredsställa en given nytta-förlust budget på konfidensintervall vektorn. Våra experimentella resultat om tillstånd att göra digitala tre dataset visar att MemGuard effektivt kan försvara mot medlemskap inference attacker och uppnå bättre sekretess-utility kompromisser än befintliga försvar. Vårt arbete är det första som visar att kontradiktoriska exempel kan användas som försvarsmekanismer för att försvara mot medlemsattacker.
Jia m.fl. REF förde kontradiktoriska exempel generation till att försvara medlemskap inference attack.
MemGuard: Defending against Black-Box Membership Inference Attacks via Adversarial Examples
{'venue': "CCS '19", 'journal': None, 'mag_field_of_study': ['Computer Science']}