Djupa neurala nätverk (DNN) har förändrat flera forskningsområden inom artificiell intelligens, inklusive datorseende, taligenkänning och behandling av naturligt språk. Nyligen genomförda studier har dock visat att DNN är sårbara för kontradiktoriska manipulationer vid testtillfället. Specifikt, anta att vi har ett test exempel, vars etikett kan korrekt förutsägas av en DNN klassificerare. En angripare kan lägga till ett litet noggrant skapat buller till testexemplet så att DNN-klassaren förutspår en felaktig etikett, där det skapade testexemplet kallas kontrariskt exempel. Sådana attacker kallas undanflyktsattacker. Evasionsattacker är en av de största utmaningarna för utplacering av DNN i säkerhetskritiska applikationer som självkörande bilar. I detta arbete utvecklar vi nya DNN som är robusta mot toppmoderna undanflyktsattacker. Vår viktigaste iakttagelse är att kontradiktoriska exempel är nära klassificeringsgränsen. Därför föreslår vi att regionbaserad klassificering ska vara robust i förhållande till kontradiktoriska exempel. Specifikt, för ett benign / adversarial test exempel, vi ensemble information i en hyperkub centrerad på exemplet för att förutsäga dess etikett. Traditionella klassificeringar är däremot punktbaserade klassificeringar, d.v.s. med ett testexempel förutsäger klassificeringsgivaren sin märkning baserad enbart på testexemplet. Våra utvärderingsresultat på MNIST- och CIFAR-10-dataset visar att vår regionbaserade klassificering avsevärt kan minska skatteundandragandeattacker utan att offra klassificeringsnoggrannheten på välvilliga exempel. I synnerhet uppnår vår regionbaserade klassificering samma klassificeringsnoggrannhet när det gäller att testa godartade exempel som punktbaserad klassificering, men vår regionbaserade klassificering är betydligt mer robust än punktbaserad klassificering mot toppmoderna skatteflyktsattacker.
Cao och Gong REF fann att kontradiktoriska exempel, särskilt de som genererats av de attacker som Carlini och Wagner föreslagit, ligger nära klassificeringsgränsen.
Mitigating Evasion Attacks to Deep Neural Networks via Region-based Classification
{'venue': 'ACSAC 2017', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}