Lärande visar förekomsten av bild-agnostiska kvasi-omärkliga perturbationer som när den tillämpas på "någon" bild kan lura en toppmodern nätverk klassificerare att ändra sin förutsägelse om bildetiketten. Dessa "Universal Adversarial Perturbations" utgör ett allvarligt hot mot framgången för Deep Learning i praktiken. Vi presenterar den första särskilda ramen för att effektivt försvara nätverken mot sådana störningar. Vårt tillvägagångssätt lär sig en Perturbation Requifying Network (PRN) som "pre-input" lager till en riktad modell, så att den riktade modellen inte behöver ändras. PRN lärs av verkliga och syntetiska bild-agnostiska perturbationer, där en effektiv metod för att beräkna den senare också föreslås. En perturberingsdetektor tränas separat på Diskret Cosine Transformation av input-output-skillnaden mellan PRN. En frågebild passerar först genom PRN och verifieras av detektorn. Om en perturbering upptäcks, används utdata från PRN för etikettförutsägelse i stället för den faktiska bilden. En rigorös utvärdering visar att vårt ramverk kan försvara nätverkets klassificeringar mot osedda kontradiktoriska störningar i de verkliga scenarierna med upp till 97,5 procents framgång. PRN generaliserar också väl i den meningen att utbildning för ett målinriktat nätverk försvarar ett annat nätverk med jämförbar framgång.
Baserat på det, Akhtar et al. REF byggde en perturberingsdetektor med hjälp av Discrete Cosine Transform (DCT).
Defense Against Universal Adversarial Perturbations
{'venue': '2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition', 'journal': '2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition', 'mag_field_of_study': ['Computer Science']}