Djupa neurala nätverk, liksom många andra modeller för maskininlärning, har nyligen visat sig sakna robusthet mot kontradiktoriskt skapade ingångar. Dessa ingångar härrör från regelbundna ingångar genom mindre men ändå noggrant utvalda perturbationer som lurar maskininlärningsmodeller till önskade felklassificeringar. Befintligt arbete inom detta framväxande område var till stor del specifikt till området för bildklassificering, eftersom högentropi av bilder kan hanteras bekvämt utan att ändra bildernas övergripande visuella utseende. Ändå är det fortfarande oklart hur sådana attacker leder till mer säkerhetskänsliga program såsom malware upptäckt-som kan innebära betydande utmaningar i urvalsgenerering och utan tvekan allvarliga konsekvenser för misslyckande. I detta papper, visar vi hur man konstruerar mycket effektiva adversarial prov crafting attacker för neurala nätverk som används som malware klassificerare. Appliceringsdomänen för malware klassificering inför ytterligare begränsningar i den kontrariska prov crafting problem jämfört med datorn vision domän: (i) kontinuerliga, differentierade inmatningsdomäner ersätts med diskreta, ofta binära ingångar; och (ii) det lösa tillståndet att lämna visuellt utseende oförändrat ersätts av att kräva motsvarande funktionellt beteende. Vi visar genomförbarheten av dessa attacker på många olika fall av malware klassificerare som vi tränade med hjälp av DREBIN Android malware data set. Vi utvärderar vidare i vilken utsträckning potentiella försvarsmekanismer mot kontradiktorisk tillverkning kan utnyttjas för att fastställa malware klassificering. Även om minskningen av kännetecknen inte visade sig ha någon positiv inverkan, visar destillering och omskolning av kontradiktoriskt tillverkade prover lovande resultat.
I REF, Grosse et al. framgångsrikt attackerade neurala nätverk som används som malware klassificerare med adversarial perturbed android program.
Adversarial Perturbations Against Deep Neural Networks for Malware Classification
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}