Abstract-Recent trojan attacker på djupa neurala nätverk (DNN) modeller är en lömsk variant av dataförgiftning attacker. Trojan attacker utnyttja en effektiv bakdörr som skapats i en DNN-modell genom att utnyttja svårigheten att tolka den lärda modellen för att felklassificera eventuella ingångar signerade med angriparens valda trojan trigger input. Trojanska attacker är lätta att göra; överleva även under ogynnsamma förhållanden såsom olika synsätt, och ljusförhållanden på bilder; och hotar verkliga tillämpningar såsom autonoma fordon och robotik. trojanen utlösaren är en hemlig bevakad och utnyttjas av angriparen. Därför är det en utmaning att upptäcka sådana trojaniserade ingångar, särskilt när modeller är i aktiv drift. Vi fokuserar på visionssystem och bygger STRong Intentional Perturbation (STRIP)-baserade run-time trojan attack detektion system. Vi avsiktligt stör inkommande indata, till exempel genom att överinsätta olika bildmönster, och observera slumpmässigheten i de förutsagda klasserna för perturbed ingångar för en given modell-malicious eller godartad-under utplacering. En låg entropi i de förutsagda klasserna bryter input-beroende egenskapen hos en godartad modell och innebär förekomsten av en skadlig input-en egenskap av en trojansk input. Den höga effektiviteten hos vår metod valideras genom fallstudier på två populära och kontrasterande dataset: MNIST och CIFAR10. Vi uppnår en total falsk acceptfrekvens (FAR) på mindre än 1%, med tanke på en förinställd falsk avstötningsfrekvens (FRR) på 1%, för fyra olika testade trojan triggertyper-tre triggers identifieras i tidigare attackverk och en dedikerad trigger är skapad av oss för att visa triggerstorleken okänslighet av STRIP-detektionsmetoden. Särskilt när det gäller datauppsättningen av naturliga bilder i CIFAR10 har vi empiriskt uppnått önskat resultat på 0 % för både FRR och FAR.
STRIP REF avsiktligt stör nätverksingångar genom att överinsätta olika bildmönster, och observerar slumpmässigheten av förutsagda klasser.
STRIP: A Defence Against Trojan Attacks on Deep Neural Networks
{'venue': 'In 2019 Annual Computer Security Applications Conference (ACSAC 19), December 9-13, 2019, San Juan, PR, USA. ACM, New York, NY, USA', 'journal': None, 'mag_field_of_study': ['Computer Science']}