Djupt lärande blir allt viktigare i många tillämpningar. Neurala nätverk står dock inför flera säkerhets- och sekretesshot. Detta är särskilt viktigt i scenariot där Cloud-infrastrukturer distribuerar en tjänst med neural nätverksmodell i bakre änden. Här, en motståndare kan extrahera neurala nätverksparametrar, härled regularization hyperparameter, identifiera om en datapunkt var en del av träningsdata, och generera effektiva överförbara kontrariska exempel för att undvika klassificeringar. Detta papper visar hur en neural nätverksmodell är känslig för timing sidokanal attack. I detta papper, en svart låda neurala nätverk utvinning attack föreslås genom att utnyttja timing sidokanaler för att dra slutsatsen djupet av nätverket. Även om byggandet av en likvärdig arkitektur är ett komplext sökproblem, visas det hur förstärkningsinlärning med kunskapsdestillering effektivt kan minska sökytan för att dra slutsatser om en målmodell. Den föreslagna metoden har testats med VGG (Visual Geometrie Group) arkitekturer på CIFAR10 datauppsättning. Det noteras att det är möjligt att rekonstruera alternativa modeller med testnoggrannhet nära målmodellerna och den föreslagna metoden är skalbar och oberoende av typ av neurala nätverksarkitekturer.
Djup av neurala modeller kan också härledas med hjälp av timing sidokanal attacker REF.
Stealing Neural Networks via Timing Side Channels
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}