Samarbete maskininlärning och relaterade tekniker såsom federerat lärande gör det möjligt för flera deltagare, var och en med sin egen utbildning dataset, att bygga en gemensam modell genom att träna lokalt och regelbundet utbyta modelluppdateringar. Vi visar att dessa uppdateringar läcker oavsiktlig information om deltagarnas träningsdata och utvecklar passiva och aktiva inferensattacker för att utnyttja detta läckage. För det första visar vi att en kontradiktorisk deltagare kan dra slutsatsen att det finns exakta datapunkter, t.ex. specifika platser-i andras utbildningsdata (dvs. medlemsslutsatser). Sedan visar vi hur denna motståndare kan dra slutsatser egenskaper som endast rymmer en delmängd av träningsdata och är oberoende av de egenskaper som den gemensamma modellen syftar till att fånga. Till exempel kan han dra slutsatsen när en viss person först visas i de bilder som används för att träna en binär kön klassificerare. Vi utvärderar våra attacker på en mängd olika uppgifter, dataset, och lärande konfigurationer, analysera deras begränsningar, och diskutera möjliga försvar.
I REF utvecklar författarna passiva och aktiva inferensattacker för att utnyttja läckaget av känslig information under inlärningsprocessen.
Exploiting Unintended Feature Leakage in Collaborative Learning
{'venue': '2019 IEEE Symposium on Security and Privacy (SP)', 'journal': '2019 IEEE Symposium on Security and Privacy (SP)', 'mag_field_of_study': ['Computer Science']}