Djupt lärande är kärnan i den nuvarande ökningen av artificiell intelligens. På området datorseende har det blivit arbetshästen för applikationer som sträcker sig från självkörande bilar till övervakning och säkerhet. Medan djupa neurala nätverk har visat fenomenal framgång (ofta bortom mänsklig förmåga) i att lösa komplexa problem, visar färska studier att de är sårbara för motgångar attacker i form av subtila perturbationer till ingångar som leder en modell för att förutsäga felaktiga utgångar. För bilder är sådana perturbationer ofta för små för att vara märkbara, men de lurar helt de djupt lärande modellerna. Motgångar utgör ett allvarligt hot mot framgången med djupt lärande i praktiken. Detta faktum har nyligen lett till ett stort inflöde av bidrag i denna riktning. I detta dokument presenteras den första omfattande undersökningen om kontradiktoriska attacker mot djupt lärande i datorseende. Vi granskar de verk som utformar kontradiktoriska attacker, analyserar förekomsten av sådana attacker och föreslår försvar mot dem. För att understryka att kontradiktoriska attacker är möjliga under praktiska förhållanden går vi separat igenom de bidrag som utvärderar kontradiktoriska attacker i de verkliga scenarierna. Slutligen, med utgångspunkt i den granskade litteraturen, ger vi ett bredare perspektiv på denna forskningsriktning. Djupt lärande, kontraarial perturbation, svart-box attack, vit-box attack, kontraariskt lärande, perturbation upptäckt.
Enligt information förvärvas av angriparen på modellen, kan attackalgoritmer delas in i en vit låda attack och en svart låda attack REF.
Threat of Adversarial Attacks on Deep Learning in Computer Vision: A Survey
{'venue': 'IEEE Access', 'journal': 'IEEE Access', 'mag_field_of_study': ['Computer Science']}