Maskininlärning (ML) modeller tillämpas i en mängd olika uppgifter såsom nätverk intrång upptäckt eller malware klassificering. Men dessa modeller är sårbara för en klass av skadliga indata som kallas kontradiktoriska exempel. Dessa är något störda ingångar som klassificeras felaktigt av ML-modellen. Minskningen av dessa kontradiktoriska ingångar är fortfarande ett öppet problem. Som ett steg mot att förstå kontradiktoriska exempel visar vi att de inte är hämtade från samma distribution som de ursprungliga uppgifterna och därmed kan upptäckas med hjälp av statistiska tester. Med hjälp av denna kunskap introducerar vi ett kompletterande tillvägagångssätt för att identifiera specifika ingångar som är kontradiktoriska. Speciellt förstärker vi vår ML-modell med ytterligare en utgång, där modellen är utbildad för att klassificera alla kontradiktoriska ingångar. Vi utvärderar vår strategi 1 på flera kontradiktoriska exempel crafting metoder (inklusive den snabba lutning tecken och Saliency karta metoder) med flera datauppsättningar. De statistiska testflaggornas provuppsättningar som innehåller kontradiktoriska indata på ett säkert sätt vid provstorlekar mellan 10 och 100 datapunkter. Dessutom upptäcker vår utökade modell antingen kontradiktoriska exempel som avvikelser med hög noggrannhet (> 80%) eller ökar motståndarens kostnad-den perturbation tillägg-med mer än 150%. På så sätt visar vi att statistiska egenskaper hos kontradiktoriska exempel är nödvändiga för att de ska kunna upptäckas. Denna förordning träder i kraft den tjugonde dagen efter det att den har offentliggjorts i Europeiska unionens officiella tidning.
Grosse m.fl. REF lade fram ett försvar för att upptäcka kontradiktoriska exempel med hjälp av statistiska tester.
On the (Statistical) Detection of Adversarial Examples
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}