Maskininlärningsalgoritmer, när de tillämpas på känsliga data, utgör ett tydligt hot mot integriteten. Ett växande antal tidigare arbeten visar att modeller producerade av dessa algoritmer kan läcka specifik privat information i träningsdata till en angripare, antingen genom modellernas struktur eller deras observerbara beteende. Den underliggande orsaken till denna integritetsskyddsrisk är dock inte väl förstådd utöver en handfull anekdotiska konton som tyder på överbemanning och inflytande kan spela en roll. I detta dokument undersöks den effekt som överbemanning och påverkan har på en angripares förmåga att lära sig information om träningsdata från maskininlärningsmodeller, antingen genom utbildningset medlemskapsslut eller attributet inference attacker. Med hjälp av både formella och empiriska analyser illustrerar vi ett tydligt samband mellan dessa faktorer och den integritetsrisk som uppstår i flera populära maskininlärningsalgoritmer. Vi finner att överbemanning är tillräckligt för att tillåta en angripare att utföra medlem inference och, när målet attributet uppfyller vissa villkor om dess inflytande, attribut inference attacker. Det är intressant att lägga märke till att vår formella analys också visar att översittande inte är nödvändigt för dessa angrepp och börjar kasta ljus över vilka andra faktorer som kan vara aktuella. Slutligen undersöker vi sambandet mellan anslutningsinferens och attributet inference, vilket visar att det finns djupa kopplingar mellan de två som leder till effektiva nya attacker. Index Terms-privacy, maskininlärning, inference attacker 268 2018 IEEE 31st Computer Security Foundations Symposium
Yeom m.fl. REF visade förhållandet mellan överbemanning och medlemsinferensattacker.
Privacy Risk in Machine Learning: Analyzing the Connection to Overfitting
{'venue': '2018 IEEE 31st Computer Security Foundations Symposium (CSF)', 'journal': '2018 IEEE 31st Computer Security Foundations Symposium (CSF)', 'mag_field_of_study': ['Computer Science']}