Motiverade av tillämpningar som autonoma fordon, provtidsattacker via kontradiktoriska exempel har fått en hel del uppmärksamhet på senare tid. I denna inställning, en motståndare kan göra frågor till en klassificerare, och stör ett test exempel med en liten mängd för att tvinga klassificeraren att rapportera en felaktig etikett. Medan en lång rad av arbete har utforskat ett antal attacker, är inte många tillförlitliga försvar kända, och det finns en övergripande brist på allmän förståelse om grunderna för att utforma maskininlärning algoritmer robusta till kontradiktoriska exempel. I detta dokument tar vi ett steg i riktning mot att ta itu med denna utmanande fråga genom att införa en ny teoretisk ram, som är jämförbar med en fördomsfri teori, som vi kan använda för att reta upp orsakerna till sårbarhet. Vi tillämpar vårt ramverk på en enkel klassificeringsalgoritm: närmaste grannar, och analyserar dess robusthet till kontradiktoriska exempel. Motiverade av vår analys, föreslår vi en modifierad version av närmaste granne algoritm, och visar både teoretiskt och empiriskt att det har överlägsen robusthet till standard närmaste grannar.
REF-mål som analyserar den kontradiktoriska robustheten hos närmaste granne.
Analyzing the Robustness of Nearest Neighbors to Adversarial Examples
{'venue': 'International Conference on Machine Learning (ICML) 2018, Page 5133--5142', 'journal': None, 'mag_field_of_study': ['Mathematics', 'Computer Science']}