Flera maskininlärning modeller, inklusive neurala nätverk, konsekvent felklassificera adversariala exempel-ingångar bildas genom att tillämpa små men avsiktligt värsta fall perturbations till exempel från datasetet, så att den perturbed input resulterar i modellen som ger ett felaktigt svar med hög tillförlitlighet. Tidiga försök att förklara detta fenomen fokuserade på icke-linjäritet och översittande. Vi argumenterar istället för att den primära orsaken till neurala nätverks sårbarhet för kontradiktorisk perturbation är deras linjära natur. Denna förklaring stöds av nya kvantitativa resultat samtidigt som den ger den första förklaringen till de mest spännande fakta om dem: deras generalisering över arkitekturer och utbildningsset. Dessutom ger denna uppfattning en enkel och snabb metod för att generera kontradiktoriska exempel. Med hjälp av detta tillvägagångssätt för att ge exempel på kontradiktorisk utbildning, minskar vi testuppsättningsfelet för ett maxout-nätverk på MNIST-datasetet.
Ett papper som i allmänhet täcker kontradiktorisk maskininlärning felklassificering är REF, där känsligheten av neurala nätverk för kontradiktoriska felklassificeringar främst tillskrivs deras linjära natur.
Explaining and Harnessing Adversarial Examples
{'venue': 'ICLR 2015', 'journal': 'arXiv: Machine Learning', 'mag_field_of_study': ['Computer Science', 'Mathematics']}