Djupa neurala nätverk visar utmärkt prestanda på flera klassiska synproblem. Dessa nätverk är dock sårbara för kontradiktoriska exempel, minimalt modifierade bilder som framkallar godtyckliga angripare valda utdata från nätverket. Vi föreslår en mekanism för att skydda mot dessa kontradiktoriska ingångar som bygger på en generativ datamodell. Vi introducerar ett förbearbetningssteg som projicerar på en generativ modells räckvidd med lutnings nedstigning innan vi matar in en input i en klassificerare. Vi visar att detta steg ger klassificeringsgivaren robusthet mot första ordningens, ersättningsmodellens och de kombinerade kontradiktoriska attackerna. Med hjälp av en min-max formulering, visar vi att det kan finnas kontradiktoriska exempel även i utbudet av generatorn, naturliga bilder extremt nära den beslutsgräns som klassifieraren har omotiverat högt förtroende. Vi visar att antiversär träning på generativt grenrör kan användas för att göra en klassificering som är robust för dessa attacker. Slutligen visar vi hur vår metod kan tillämpas även utan en förtränad generativ modell med hjälp av en ny metod som kallas den djupa bilden innan. Vi utvärderar vår metod på MNIST, CelebA och Imagenet och visar robusthet mot dagens toppmoderna attacker.
Iljas m.fl. REF föreslogs för att ytterligare robostifiera de generativa modellerna genom kontradiktorisk utbildning på basklassen.
The Robust Manifold Defense: Adversarial Training using Generative Models
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}