Neurala nätverk är sårbara för motangrepp - små visuellt omärkliga skapade buller som när de läggs till inmatningen drastiskt ändrar produktionen. Den mest effektiva metoden för att försvara sig mot kontradiktoriska attacker är att använda metoden för kontradiktorisk träning. Vi analyserar de motsträvigt utbildade robusta modellerna för att studera deras sårbarhet mot motangrepp på nivån för de latenta skikten. Vår analys visar att det latenta lagret av dessa robusta modeller, tvärtemot det ingångsskikt som är robust mot en motattack, är mycket känsligt för motreaktioner av liten omfattning. Med hjälp av denna information introducerar vi en ny teknik Latent Adversarial Training (LAT) som består av finjustering av de motsträvigt utbildade modellerna för att säkerställa robustheten i funktionsskikten. Vi föreslår också Latent Attack (LA), en ny algoritm för att konstruera kontradiktoriska exempel. LAT resulterar i en mindre förbättring av testnoggrannheten och leder till en toppmodern adversariell noggrannhet mot den universella första ordningens adversariska PGD-attack som visas för datauppsättningarna MNIST, CIFAR-10, CIFAR-100, SVHN och Restrikted ImageNet.
REF konstaterar att latenta lager av en kontraariskt tränad modell inte är robust och föreslår en teknik för att utföra kontraarial träning av latent skikt (benämns LAT) i samband med kontraarial utbildning av hela nätverket som syftar till att öka den kontraariska robustheten hos modellen.
Harnessing the Vulnerability of Latent Layers in Adversarially Trained Models
{'venue': 'IJCAI', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}