När maskininlärning blir en praxis och råvara, många molnbaserade tjänster och ramar tillhandahålls för att hjälpa kunderna att utveckla och distribuera maskininlärning applikationer. Även om det är vanligt att outsourca modellutbildning och servering uppgifter i molnet, är det viktigt att skydda integriteten av känsliga prover i utbildningen dataset och förhindra informationsläckage till opålitliga tredje parter. Tidigare arbete har visat att en skadlig maskininlärning tjänsteleverantör eller slutanvändare kan enkelt extrahera kritisk information om utbildningsprover, från modellen parametrar eller till och med bara modell outputs. I detta dokument föreslår vi en ny och generisk metod för att bevara integriteten hos utbildningsdata i tillämpningar för maskininlärning. Framför allt inför vi en obfuscate-funktion och tillämpar den på utbildningsuppgifterna innan vi matar dem med modellträningsuppgiften. Denna funktion tillför slumpmässiga ljud till befintliga prover, eller utökar datauppsättningen med nya prover. Genom att göra så känslig information om egenskaperna hos enskilda prover, eller statistiska egenskaper hos en grupp av prover, döljs. Under tiden kan den modell som tränas från den obfuskerade datauppsättningen ändå uppnå hög noggrannhet. Med detta tillvägagångssätt kan kunderna på ett säkert sätt lämna ut data eller modeller till tredjepartsleverantörer eller slutanvändare utan att behöva oroa sig för dataintegritet. Våra experiment visar att detta tillvägagångssätt kan effektivt besegra fyra befintliga typer av maskininlärning integritet attacker till försumbar noggrannhet kostnad.
I likhet med olika integritetsbaserade metoder, i REF, för att bevara integriteten i utbildningsprover, författare föreslår att använda en obfuscate-funktion för att lägga slumpmässiga buller (eller nya prover) till utbildningsdata innan den används för modellgenerering.
Privacy-preserving Machine Learning through Data Obfuscation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}