I detta dokument fokuserar vi på att utveckla en ny mekanism för att bevara differentiell integritet i djupa neurala nätverk, så att: (1) Privatlivet budgetkonsumtion är helt oberoende av antalet utbildningssteg; (2) Det har förmågan att adaptivt injicera buller i funktioner som bygger på bidraget från var och en till produktionen; och (3) Det kan tillämpas i en mängd olika djupa neurala nätverk. För att uppnå detta, vi räkna ut ett sätt att perturb affine transformationer av neuroner, och förlustfunktioner som används i djupa neurala nätverk. Dessutom lägger vår mekanism avsiktligt till "mer buller" i funktioner som är "mindre relevanta" för modellens utgång, och vice versa. Vår teoretiska analys bygger vidare på vår mekanisms känslighet och felgräns. Rigorösa experiment på dataset MNIST och CIFAR-10 visar att vår mekanism är mycket effektiv och överträffar befintliga lösningar.
Phan m.fl. REF utvecklade "Adaptive Laplace Mechanism" som skulle kunna tillämpas i en mängd olika djupa neurala nätverk medan den privata budgeten konsumtionen är oberoende av antalet utbildning steg.
Adaptive Laplace Mechanism: Differential Privacy Preservation in Deep Learning
{'venue': '2017 IEEE International Conference on Data Mining (ICDM)', 'journal': '2017 IEEE International Conference on Data Mining (ICDM)', 'mag_field_of_study': ['Computer Science', 'Mathematics']}