En medlemsinferensattack (MIA) mot en maskininlärningsmodell gör det möjligt för en angripare att avgöra om en given datapost var en del av modellens träningsdatauppsättning eller inte. Sådana attacker har visat sig vara praktiska både i centraliserade och federerade miljöer, och utgör ett hot inom många integritetskänsliga områden såsom medicin eller brottsbekämpning. I litteraturen rapporteras alltid effekten av dessa attacker med hjälp av mätvärden som beräknas över hela befolkningen. I detta dokument tar vi en närmare titt på attackens resultat i olika undergrupper som finns i datadistributionerna. Vi introducerar ett ramverk som gör det möjligt för oss att effektivt analysera sårbarheten hos maskininlärningsmodeller för MIA. Vi upptäcker att även om noggrannheten i MIA inte ser bättre ut än slumpmässiga gissningar över hela befolkningen, subgrupper utsätts för olika sårbarhet, dvs. vissa subgrupper kan vara betydligt mer sårbara än andra. Vi tillhandahåller en teoretisk definition för MIA sårbarhet som vi validerar empiriskt både på syntetiska och verkliga data.
Det visar sig att medlemsattacker fungerar bättre på vissa undergrupper av befolkningen, t.ex. underrepresenterade minoriteter, vilket leder till olika sårbarheter REF.
Disparate Vulnerability: on the Unfairness of Privacy Attacks Against Machine Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}