Djuplärande algoritmer har visat sig prestera extremt bra på många klassiska maskininlärningsproblem. Nyligen genomförda studier har dock visat att djupt lärande, liksom andra tekniker för maskininlärning, är sårbart för kontradiktoriska prover: ingångar skapade för att tvinga ett djupt neuralt nätverk (DNN) att ge motståndare utvalda utgångar. Sådana attacker kan allvarligt undergräva säkerheten i det system som stöds av DNN, ibland med förödande konsekvenser. Till exempel kan autonoma fordon kraschas, olagligt eller olagligt innehåll kan kringgå innehållsfilter, eller biometriska autentiseringssystem kan manipuleras för att möjliggöra felaktig åtkomst. I detta arbete inför vi en defensiv mekanism som kallas defensiv destillation för att minska effektiviteten hos kontradiktoriska prover på DNN. Vi undersöker analytiskt de generaliserings- och robusthetsegenskaper som ges genom användning av defensiv destillation vid utbildning av DNN. Vi studerar också empiriskt effektiviteten i våra försvarsmekanismer på två DNN placerade i kontradiktoriska miljöer. Studien visar att defensiv destillation kan minska effektiviteten av provgenerering från 95 % till mindre än 0,5 % på en undersökt DNN. Sådana dramatiska vinster kan förklaras av det faktum att destillation leder gradienter som används i kontradiktoriska prov skapande minskas med en faktor på 10 30. Vi finner också att destillationen ökar det genomsnittliga minsta antalet egenskaper som behöver ändras för att skapa kontradiktoriska prover med cirka 800 % på en av de DNN som vi testade.
Deras studie visade att defensiv destillation kan minska effektiviteten av kontradiktoriskt prov skapande från 95% till mindre än 0,5% på en undersökt DNN REF.
Distillation as a Defense to Adversarial Perturbations Against Deep Neural Networks
{'venue': '2016 IEEE Symposium on Security and Privacy (SP)', 'journal': '2016 IEEE Symposium on Security and Privacy (SP)', 'mag_field_of_study': ['Computer Science', 'Mathematics']}