Abstrakt. Det senaste arbetet har visat att deep-learning algoritmer för malware upptäckt är också mottagliga för kontradiktoriska exempel, d.v.s. noggrant utformade perturbations att mata in malware som möjliggör vilseledande klassificering. Även om detta har ifrågasatt deras lämplighet för denna uppgift, är det ännu inte klart varför sådana algoritmer lätt luras också i denna specifika applikation domän. I detta arbete tar vi ett första steg för att ta itu med denna fråga genom att utnyttja förklarande maskininlärningsalgoritmer som utvecklats för att tolka svart-box beslut av djupa neurala nätverk. I synnerhet använder vi en förklarande teknik som kallas funktionsattribuering för att identifiera de mest inflytelserika indatafunktioner som bidrar till varje beslut, och anpassa den för att ge meningsfulla förklaringar till klassificeringen av malware binärer. I detta fall finner vi att en nyligen föreslagna konvolutionella neurala nätverk inte lär sig någon meningsfull egenskap för malware upptäckt från data och text avsnitt av körbara filer, men snarare tenderar att lära sig att diskriminera mellan godartade och malware prover baserat på de egenskaper som finns i filhuvudet. Baserat på detta fynd, föreslår vi en ny attackalgoritm som genererar motstående malware binärer genom att bara ändra några tiotals byte i filhuvudet. När det gäller de andra toppmoderna attackalgoritmerna kräver vår attack inte att någon stoppning injiceras i slutet av filen, och det är mycket effektivare, eftersom det kräver manipulering mycket färre bytes.
Referens REF föreslog en metod för att generera motstående malware exempel genom att störa byte i den skadliga binära huvudet.
Explaining Vulnerabilities of Deep Learning to Adversarial Malware Binaries
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}