ABSTRACT Djupa neurala nätverk (DNN) används i stor utsträckning för bildigenkänning, taligenkänning, mönsteranalys och intrångsdetektering. Nyligen är den kontradiktoriska attacken, där dataunderlaget bara ändras något, även om den inte är en fråga för mänsklig tolkning, ett allvarligt hot mot en DNN som en attack eftersom den får maskinen att misstolka data. Den kontradiktoriska attacken har fått stor uppmärksamhet på grund av dess potentiella hot mot maskininlärning. Den är uppdelad i två kategorier: målinriktat kontradiktoriskt exempel och oriktat kontradiktoriskt exempel. Det oriktade kontradiktoriska exemplet inträffar när maskiner felklassificerar ett objekt till en felaktig klass. Däremot får den riktade kontradiktoriska attacken maskiner att misstolka bilden som angriparens önskade klass. Det senare är således ett mer utstuderat och kraftfullt angrepp än det förra. Det befintliga riktade kontradiktoriska exemplet är en enda riktad attack som tillåter bara en klass att erkännas. I vissa fall kan dock ett multiriktat kontradiktoriskt exempel vara användbart för en angripare för att få flera modeller att känna igen en enda originalbild som olika klasser. Till exempel, en angripare kan använda en enda vägskylt som genereras av en multi-riktad adversarial exempelschema för att göra modell A känna igen det som en stoppskylt och modell B känner igen det som en vänstersväng, medan en människa kan känna igen det som en högersväng. Därför föreslår vi i detta dokument ett flerriktat kontradiktoriskt exempel som angriper flera modeller inom varje målgrupp med en enda modifierad bild. För att ta fram sådana exempel genomförde vi en omvandling för att maximera sannolikheten för olika målklasser genom flera modeller. Vi använde MNIST dataset och TensorFlow bibliotek för vårt experiment. De experimentella resultaten visade att det föreslagna systemet för att generera ett flerriktat kontradiktoriskt exempel uppnådde 100 % framgång. INDEX TERMS Deep neural network (DNN), undanflyktsattack, kontradiktoriskt exempel, maskininlärning.
Kwon m.fl. I REF föreslogs ett multiriktat kontradiktoriskt exempel som kan missklassificera var och en av de flera modellerna som varje målklass tillsammans med att minimera avståndet för det ursprungliga provet.
Multi-Targeted Adversarial Example in Evasion Attack on Deep Neural Network
{'venue': 'IEEE Access', 'journal': 'IEEE Access', 'mag_field_of_study': ['Computer Science']}