Det senaste arbetet har visat djupa neurala nätverk (DNN) att vara mycket känsliga för väl utformade, små störningar vid ingångslagret, eller så kallade kontrariska exempel. Med bilder som exempel är sådana snedvridningar ofta omärkliga, men kan resultera i 100% felklassificering för en toppmodern DNN. Vi studerar strukturen av kontradiktoriska exempel och utforskar nätverkstopologi, förbearbetning och utbildningsstrategier för att förbättra DNN:s robusthet. Vi utför olika experiment för att bedöma om kontradiktoriska exempel kan tas bort genom att korrumpera med ytterligare buller och förbehandling med denoiserande autokodrar (DAEs). Vi finner att DAEs kan ta bort betydande mängder av det kontradiktoriska bruset. Men när DAE staplas med den ursprungliga DNN, kan det resulterande nätverket återigen attackeras av nya kontradiktoriska exempel med ännu mindre förvrängning. Som lösning föreslår vi Deep Contractive Network, en modell med ett nytt end-to-end-utbildningsförfarande som inkluderar en jämnhetspåföljd inspirerad av den kontraktiva autoencodern (CAE). Detta ökar nätverkets robusthet mot kontradiktoriska exempel, utan betydande resultatpåföljder.
Gu och Rigazio REF föreslog Deep Contractive Network som lägger till en smidighet straff på de partiella derivat i varje skikt.
Towards Deep Neural Network Architectures Robust to Adversarial Examples
{'venue': 'ICLR 2014', 'journal': 'arXiv: Learning', 'mag_field_of_study': ['Computer Science', 'Mathematics']}