Abstract-Uppkomsten av djupinlärning teknik har väckt ny integritet oro om träningsdata och testdata. I detta arbete undersöker vi modellens inversionsproblem i de kontradiktoriska inställningarna, där motståndaren strävar efter att dra slutsatser om målmodellens träningsdata och testa data från modellens förutsägelsevärden. Vi utvecklar en lösning för att träna ett andra neuralt nätverk som fungerar som inversen av målmodellen för att utföra inversion. Inversionsmodellen kan tränas med tillgång till svarta lådor till målmodellen. Vi föreslår två huvudtekniker för att träna inversionsmodellen i de kontradiktoriska inställningarna. För det första utnyttjar vi motståndarens bakgrundskunskap för att komponera en extra uppsättning för att träna inversionsmodellen, vilket inte kräver tillgång till den ursprungliga träningsdatan. För det andra utformar vi en trunkeringsbaserad teknik för att anpassa inversionsmodellen för att möjliggöra effektiv inversion av målmodellen från partiella förutsägelser som motståndaren får på offrets data. Vi utvärderar systematiskt vår inversionsstrategi i olika maskininlärningsuppgifter och modellarkitekturer på flera bilddataset. Våra experimentella resultat visar att även utan full kunskap om målmodellens träningsdata, och med endast partiella förutsägelsevärden, vår inversionsstrategi fortfarande kan utföra korrekt inversion av målmodellen, och överträffa tidigare tillvägagångssätt.
REF föreslog att man skulle utbilda ett separat nätverk som byter ingång och utgång i målnätverket för att utföra MI-attacker.
Adversarial Neural Network Inversion via Auxiliary Knowledge Alignment
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}