Motståndskraftiga exempel har väckt frågor om de djupa neurala nätverkens robusthet och säkerhet. I detta arbete formaliserar vi problemet med kontradiktoriska bilder som ges en förtränad klassificering, vilket visar att även i det linjära fallet det resulterande optimeringsproblemet är nonconvex. Vi skapar kontradiktoriska bilder med hjälp av grunda och djupa klassificeringar på MNIST och ImageNet dataset. Vi undersöker pixelutrymmet för kontradiktoriska bilder med hjälp av buller av varierande intensitet och fördelning. Vi tar med oss nya visualiseringar som visar upp fenomenet och dess höga variabilitet. Vi visar att kontradiktoriska bilder visas i stora regioner i pixelutrymmet, men att, för samma uppgift, en grund klassificerare verkar mer robust för kontradiktoriska bilder än en djup convolutional nätverk.
De motstående bilderna är inte isolerade, falska punkter i pixel utrymme men visas i stora regioner av utrymmet REF.
Exploring the space of adversarial images
{'venue': '2016 International Joint Conference on Neural Networks (IJCNN)', 'journal': '2016 International Joint Conference on Neural Networks (IJCNN)', 'mag_field_of_study': ['Computer Science']}