Ett brett spektrum av försvar har föreslagits för att härda neurala nätverk mot kontradiktoriska attacker. Men ett mönster har dykt upp där majoriteten av de kontradiktoriska försvaren snabbt bryts av nya attacker. Med tanke på bristen på framgång i att generera robusta försvar, vi leds till att ställa en grundläggande fråga: Är kontradiktoriska attacker oundvikliga? Detta dokument analyserar kontradiktoriska exempel ur ett teoretiskt perspektiv, och identifierar grundläggande gränser för känsligheten hos en klassiator för kontradiktoriska attacker. Vi visar att för vissa klasser av problem är kontradiktoriska exempel ofrånkomliga. Med hjälp av experiment utforskar vi konsekvenserna av teoretiska garantier för verkliga problem och diskuterar hur faktorer som dimensionalitet och bildkomplexitet begränsar en klassificerings robusthet mot kontradiktoriska exempel.
Dessutom har det också diskuterats om det är oundvikligt med kontradiktoriska exempel, och man har funnit att kontradiktoriska exempel är ofrånkomliga för många grupper av problem.
Are adversarial examples inevitable?
{'venue': 'International Conference on Learning Representations, 2019. https://openreview.net/forum?id=r1lWUoA9FQ', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}