Medlemskap Inference Attack (MIA) bestämmer förekomsten av ett rekord i en maskininlärning modells träningsdata genom att fråga modellen. Tidigare arbete har visat att attacken är möjlig när modellen är överbesatt med sina träningsdata eller när motståndaren styr träningsalgoritmen. Men när modellen inte är överbesatt och motståndaren inte kontrollerar träningsalgoritmen, är hotet inte väl förstådd. I det här dokumentet rapporterar vi om en studie som visar att överbefogenhet är ett tillräckligt men inte ett nödvändigt villkor för att en MIA ska lyckas. Mer specifikt visar vi att även en välgeneraliserad modell innehåller sårbara fall som är föremål för en ny generaliserad MIA (GMIA). I GMIA använder vi nya tekniker för att välja ut sårbara instanser och upptäcka deras subtila influenser som ignoreras av översittande mätvärden. Specifikt, vi framgångsrikt identifiera individuella poster med hög precision i verkliga datauppsättningar genom att fråga Black-box maskininlärning modeller. Vidare visar vi att ett sårbart rekord till och med indirekt kan angripas genom att fråga andra relaterade poster och befintliga generaliseringstekniker anses vara mindre effektiva när det gäller att skydda de utsatta fallen. Våra upptäckter stärker förståelsen av den grundläggande orsaken till problemet: den unika påverkan som övningsinstansen kan ha på modellen.
Dessutom visar nyligen gjorda arbeten att överutrustning kan vara nödvändig men inte ett tillräckligt villkor för en framgångsrik MIA REF.
Understanding Membership Inferences on Well-Generalized Learning Models
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}