Särskilt maskininlärning och djupinlärning har under de senaste åren kommit oerhört långt i fråga om perceptuella uppgifter. Det är dock fortfarande sårbart mot motsträviga störningar av den insats som har gjorts specifikt för att lura systemet samtidigt som det är kvasi-omärkligt för en människa. I detta arbete, föreslår vi att öka djupa neurala nätverk med en liten "detektor" subnätverk som är utbildad på binär klassificering uppgift att skilja äkta data från data som innehåller kontrariska perturbationer. Vår metod är ortogonal till tidigare arbete med att ta itu med kontradiktoriska störningar, som främst har fokuserat på att göra själva klassificeringsnätverket mer robust. Vi visar empiriskt att motgångar kan upptäckas förvånansvärt bra trots att de är nästan omärkliga för människor. Dessutom, medan detektorerna har utbildats för att upptäcka endast en specifik motståndare, generaliserar de till liknande och svagare motståndare. Dessutom föreslår vi en kontradiktorisk attack som lurar både klassificerings- och detektorn och en ny träningsmetod för detektorn som motverkar denna attack.
REF föreslår en metod för att öka djupa neurala nätverk med ett konjugat nätverk som är utbildad på den binära klassificeringen uppgift att skilja äkta data från data som innehåller kontradiktoriska störningar.
On Detecting Adversarial Perturbations
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}