Ett brett utbud av djupa neurala applikationer förlitar sig i allt högre grad på molnet för att utföra sina beräkningstunga slutsatser. Denna praxis kräver att privata och privilegierade data över nätverket skickas till fjärrservrar, att den exponeras för tjänsteleverantören och att dess integritet äventyras. Även om leverantören är betrodd, data kan fortfarande vara sårbara över kommunikationskanaler eller via sidokanal attacker i molnet. Syftet med detta dokument är därför att minska informationsinnehållet i de överförda uppgifterna så lite som möjligt genom att göra de skickade uppgifterna bullriga. Ett odisciplinerat tillägg av buller kan avsevärt minska slutsatsens noggrannhet, vilket gör tjänsten oanvändbar. För att ta itu med denna utmaning utformar detta dokument Shredder, en end-to-end ram, som, utan att ändra topologin eller vikterna i ett förskolat nätverk, lär sig additiv bullerfördelning som avsevärt minskar informationsinnehållet i kommunicerade data samtidigt som inferencenoggrannheten bibehålls. Den viktigaste idén är att hitta additiv bullerfördelning genom att gjuta den som en delad offline inlärningsprocess med en förlustfunktion som skapar en balans mellan noggrannhet och informationsnedbrytning. Förlustfunktionen exponerar också en knopp för en disciplinerad och kontrollerad asymmetrisk kompromiss mellan integritet och noggrannhet. Medan Shredder håller DNN intakt, delar Shredder slutsatsen mellan molnet och kanten enheten, hitta en balans mellan beräkning och kommunikation. I den separata fasen av slutsatsen tar kantanordningen prover från de Laplace-distributioner som samlades in under den föreslagna inlärningsfasen offline och befolkar en buller tensor med dessa provade element. Sedan lägger eggen bara till denna befolkade brus tensor till de mellanliggande resultaten som ska skickas till molnet. Som sådan, Shredder möjliggör noggrann slutsats om bullriga mellandata utan att behöva uppdatera modellen eller molnet, eller någon utbildningsprocess under inferens. Vi bevisar också formellt att Shredder maximerar integriteten med minimal påverkan på DNN noggrannhet medan kompromissen mellan integritet och noggrannhet styrs genom en matematisk knopp. Experimentering med sex verkliga DNN från textbehandling och bildklassificering visar att Shredder minskar den ömsesidiga informationen mellan indata och kommunicerade data till molnet med 74,70% jämfört med den ursprungliga körningen medan endast offra 1,58% förlust i noggrannhet. I genomsnitt erbjuder Shredder också en hastighetshöjning på 1,79× över Wi-Fi och 2,17× över LTE jämfört med moln bara körning när du använder en off-the-shelf mobil GPU (Tegra X2) på kanten.
Shredder REF partitionerar DNN-modellerna mellan kanten och molnet, och lägger till inlärt buller till mellandata vid kanten innan avlastning till molnet.
Shredder: Learning Noise Distributions to Protect Inference Privacy
{'venue': None, 'journal': 'Proceedings of the Twenty-Fifth International Conference on Architectural Support for Programming Languages and Operating Systems', 'mag_field_of_study': ['Computer Science']}