Den senaste tidens studier har ägnat stor uppmärksamhet åt de kontradiktoriska attackerna. Det har visat sig att det för många toppmoderna DNN som utför bildklassificering finns universella motsträviga perturbations -image-agnostic perturbations endast tillägg av vilka naturliga bilder med stor sannolikhet leder till felklassificering. I detta arbete föreslår vi en ny algoritm för att bygga sådana universella störningar. Vårt tillvägagångssätt bygger på att beräkna de så kallade (p, q)-singulära vektorerna i de jakobska matriserna av dolda lager i ett nätverk. Resultatet av perturbationer är intressanta visuella mönster, och genom att bara använda 64 bilder kunde vi konstruera universella perturbationer med mer än 60 % lurande hastighet på datasetet bestående av 50000 bilder. Vi undersöker också en korrelation mellan det maximala singularvärdet av den jakobska matrisen och den lurande hastigheten av motsvarande singular vektor, och visar att de konstruerade perturbations generalisera över nätverk.
REF ) presentera en metod för att konstruera universella motsträviga perturbationer på ImageNet-modeller med endast 64 bilder.
Art of Singular Vectors and Universal Adversarial Perturbations
{'venue': '2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition', 'journal': '2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition', 'mag_field_of_study': ['Computer Science']}