Abstrakt. I säkerhetskänsliga applikationer, framgången med maskininlärning beror på en grundlig granskning av deras motstånd mot kontradiktoriska data. I ett relevant, välmotiverat attackscenario kan en motståndare försöka undvika ett utplacerat system vid provtillfället genom att noggrant manipulera anfallsprover. I detta arbete presenterar vi ett enkelt men effektivt gradientbaserat tillvägagångssätt som kan utnyttjas för att systematiskt bedöma säkerheten hos flera allmänt använda klassificeringsalgoritmer mot skatteflyktsattacker. Efter ett nyligen föreslagit ramverk för säkerhetsutvärdering simulerar vi attackscenarier som uppvisar olika risknivåer för klassificeringen genom att öka angriparens kunskap om systemet och hennes förmåga att manipulera attackprover. Detta ger klassificeringsdesignern en bättre bild av klassificeringsprestandan under undandragande attacker, och gör det möjligt för honom att utföra ett mer informerat modellval (eller parameterinställning). Vi utvärderar vår strategi för den relevanta säkerhetsuppgiften för malware upptäckt i PDF-filer, och visar att sådana system lätt kan undvikas. Vi skisserar också några motåtgärder som föreslås i vår analys.
Biggio och al. Ref presenterade också en gradientbaserad metod för att systematiskt bedöma olika klassificeringsalgoritmer mot skatteundandragande.
Evasion Attacks against Machine Learning at Test Time
{'venue': 'ECML PKDD, Part III, vol. 8190, LNCS, pp. 387--402. Springer, 2013', 'journal': None, 'mag_field_of_study': ['Computer Science']}