Maskininlärningsmodeller läcker betydande mängd information om sina träningsset, genom sina förutsägelser. Detta är en allvarlig integritetsfråga för användare av maskininlärning som en tjänst. För att ta itu med denna oro fokuserar vi i detta dokument på att minska riskerna för inferensattacker mot maskininlärningsmodeller. Vi inför en mekanism för att utbilda modeller med medlemskap integritet, vilket garanterar oskiljaktighet mellan prognoserna för en modell på sina träningsdata och andra datapunkter (från samma distribution). Detta kräver att minimera noggrannheten hos den bästa Black-box medlemskap inference attack mot modellen. Vi formaliserar detta som ett min-max spel, och utformar en kontradiktorisk träningsalgoritm som minimerar den förutsägelse förlust av modellen samt den maximala vinsten av inference attacker. Denna strategi, som kan garantera medlemskap integritet (som förutsägelse oskiljaktighet), fungerar också som en stark regularizer och hjälper generalisera modellen. Vi utvärderar den praktiska genomförbarheten av vår integritetsmekanism på utbildning djupa neurala nätverk med hjälp av benchmarking dataset. Vi visar att min-max strategin kan minska riskerna för medlemskap inference attacker (nära slumpmässiga gissningar), och kan uppnå detta med en försumbar minskning i modellens förutsägelse noggrannhet (mindre än 4%).
Min-Max spel REF.
Machine Learning with Membership Privacy using Adversarial Regularization
{'venue': "CCS '18", 'journal': None, 'mag_field_of_study': ['Mathematics', 'Computer Science']}