Under de senaste åren, djupa neurala nätverk metoder har allmänt antagits för maskininlärning uppgifter, inklusive klassificering. De visade sig dock vara sårbara för motsträviga störningar: noggrant utformade små störningar kan orsaka felaktig klassificering av legitima bilder. Vi föreslår Defense-Gan, ett nytt ramverk som utnyttjar den uttrycksfulla förmågan hos generativa modeller för att försvara djupa neurala nätverk mot sådana attacker. Defense-Gan är utbildad för att modellera distributionen av ogenomträngliga bilder. Vid inferencetid finner den en nära utgång till en given bild som inte innehåller de kontradiktoriska förändringarna. Denna utmatning matas sedan till klassificeringsmaskinen. Vår föreslagna metod kan användas med vilken klassificeringsmodell som helst och ändrar inte klassificeringsstrukturen eller utbildningsförfarandet. Det kan också användas som ett försvar mot varje attack eftersom det inte tar kunskap om processen för att generera de kontradiktoriska exemplen. Vi visar empiriskt att Defense-Gan är konsekvent effektiv mot olika angreppsmetoder och förbättrar befintliga försvarsstrategier. Vår kod har offentliggjorts på https://github.com/kabkabm/defensegan.
Samma generator inversion teknik används i REF som ett försvar mot kontradiktoriska exempel.
Defense-GAN: Protecting Classifiers Against Adversarial Attacks Using Generative Models
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}