Motståndskraftiga exempel är skadliga ingångar utformade för att lura maskininlärning modeller. De överför ofta från en modell till en annan, vilket gör det möjligt för angripare att montera svarta box attacker utan kunskap om målmodellens parametrar. Motstående träning är en process för att uttryckligen träna en modell på kontradiktoriska exempel, för att göra den mer robust att attackera eller för att minska sitt testfel på rena ingångar. Hittills har kontradiktorisk utbildning i första hand tillämpats på små problem. I denna forskning tillämpar vi kontradiktorisk utbildning till ImageNet (Russakovsky et al., 2014). Våra bidrag inkluderar: (1) rekommendationer för hur man på ett framgångsrikt sätt kan skala upp kontradiktorisk träning till stora modeller och datauppsättningar, (2) observationen att kontradiktorisk träning ger robusthet till enstegs attackmetoder, (3) konstaterandet att flerstegs attackmetoder är något mindre överförbara än enstegs attackmetoder, så enstegsattacker är det bästa för montering av svart-box attacker, och (4) upplösning av en "märkning läckande" effekt som gör att adversariskt utbildade modeller att prestera bättre på adversariska exempel än på rena exempel, eftersom adversariska exempel byggprocessen använder den sanna etiketten och modellen kan lära sig att utnyttja regulariteter i byggprocessen.
Dessutom konstaterade Kurakin REF att motsträvigt utbildade modeller var mottagliga för kontradiktoriska prover som genererades med hjälp av flerstegsmetoder under white-box-inställning.
Adversarial Machine Learning at Scale
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}