Även om djupa neurala nätverk (DNN) har uppnått stor framgång i många datorseende uppgifter, har färska studier visat att de är sårbara för kontradiktoriska exempel. Sådana exempel, som vanligtvis genereras genom att lägga till små men meningsfulla snedvridningar, kan ofta lura DNN-modeller. Tidigare studier för att försvara mot kontradiktoriska exempel inriktades främst på att förfina DNN-modellerna. De har antingen visat begränsad framgång eller lider av dyra beräkningar. Vi föreslår en ny strategi, med klämma, som kan användas för att härda DNN-modeller genom att upptäcka kontradiktoriska exempel. Feature kramning minskar det sökutrymme som är tillgängligt för en motståndare genom att sammansmälta prover som motsvarar många olika funktionsvektorer i det ursprungliga utrymmet till ett enda prov. Genom att jämföra en DNN-modells förutsägelse om den ursprungliga indatan med den på den pressade indatan upptäcker funktionen klämmande kontradiktoriska exempel med hög noggrannhet och få falska positiva. Detta papper undersöker två fall av funktionsklämmor: att minska färg bitdjupet på varje pixel och utjämning med hjälp av ett rumsligt filter. Dessa strategier är enkla, billiga och kompletterar defensiva metoder som fungerar enligt den underliggande modellen, såsom kontradiktorisk utbildning.
Xu och al. REF försvarar perturbation attacker genom funktion pressning som minskar bit färg eller släta bilden med hjälp av ett rumsligt filter och därmed begränsar sökområdet för perturbation attack.
Feature Squeezing: Detecting Adversarial Examples in Deep Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}