Med snabba framsteg och betydande framgångar inom ett brett spektrum av tillämpningar tillämpas djupt lärande i många säkerhetskritiska miljöer. Djupa neurala nätverk (DNN) har dock nyligen befunnits sårbara för väl utformade indataprover som kallas kontradiktoriska exempel. Motgångar är omärkliga för människor men kan lätt lura DNN:er i test-/utplaceringsstadiet. Känsligheten för kontradiktoriska exempel blir en av de största riskerna vid användning av DNN i säkerhetskritiska miljöer. Därför drar attacker och försvar mot kontradiktoriska exempel stor uppmärksamhet. I detta dokument granskar vi de senaste rönen om kontradiktoriska exempel för DNN, sammanfattar metoderna för att generera kontradiktoriska exempel och föreslår en taxonomi för dessa metoder. Under taxonomin undersöks ansökningar om kontradiktoriska exempel. Vi utvecklar vidare motåtgärder för kontradiktoriska exempel. Dessutom diskuteras tre stora utmaningar i kontradiktoriska exempel och möjliga lösningar. Index Terms-Adversarial exempel, djupinlärning (DL), djupa neurala nätverk (DNN), säkerhet.
REF ger en grundlig undersökning av både attacker och försvar särskilt för djupinlärningssystem.
Adversarial Examples: Attacks and Defenses for Deep Learning
{'venue': 'IEEE Transactions on Neural Networks and Learning Systems', 'journal': 'IEEE Transactions on Neural Networks and Learning Systems', 'mag_field_of_study': ['Computer Science', 'Mathematics', 'Medicine']}