En intressant egenskap hos djupa neurala nätverk är förekomsten av kontradiktoriska exempel, som kan överföra mellan olika arkitekturer. Dessa överförbara kontradiktoriska exempel kan allvarligt hindra djupa neurala nätverksbaserade tillämpningar. Tidigare verk studerar främst överförbarheten med hjälp av småskaliga datauppsättningar. I detta arbete är vi de första som genomför en omfattande studie av överförbarheten över stora modeller och ett storskaligt dataset, och vi är också de första som studerar överförbarheten av riktade kontradiktoriska exempel med sina måletiketter. Vi studerar både icke-målinriktade och riktade kontradiktoriska exempel, och visar att även om överförbara icke-målinriktade kontradiktoriska exempel är lätta att hitta, är riktade kontradiktoriska exempel som genereras med hjälp av befintliga metoder nästan aldrig överföras med sina måletiketter. Därför föreslår vi nya ensemblebaserade metoder för att generera överförbara kontradiktoriska exempel. Med hjälp av sådana metoder observerar vi en stor del av riktade kontradiktoriska exempel som för första gången kan överföras med sina målmärken. Vi presenterar också några geometriska studier för att hjälpa till att förstå de överförbara kontradiktoriska exemplen. Slutligen visar vi att de kontradiktoriska exempel som genereras med ensemblebaserade metoder kan framgångsrikt attackera Clarifai.com, som är en svart-box bild klassificeringssystem.
REF föreslår nya ensemblebaserade metoder för att generera kontradiktoriska exempel.
Under review as a conference paper at ICLR 2017 DELVING INTO TRANSFERABLE ADVERSARIAL EX- AMPLES AND BLACK-BOX ATTACKS