Trots imponerande resultat är de toppmoderna klassificeringarna fortfarande mycket sårbara för små, omärkliga, motsträviga störningar. Denna sårbarhet har på ett empiriskt sätt visat sig vara mycket invecklad att ta itu med. I detta dokument studerar vi fenomenet med kontradiktoriska perturbationer under antagandet att data genereras med en jämn generativ modell. Vi härleder grundläggande övre gränser på robustheten till perturbations av någon klassifikation funktion, och bevisa förekomsten av adversarial perturbations som överför väl mellan olika klassificerare med liten risk. Vår analys av robustheten ger också insikter om viktiga egenskaper hos generativa modeller, såsom deras jämnhet och dimensionalitet av latent utrymme. Vi avslutar med numeriska experimentella resultat som visar att våra gränser ger informativa baslinjer till maximal uppnåelig robusthet på flera datauppsättningar.
Nyligen, robustheten hos klassificeringar till perturbationer under antagandet av Gaussian distribuerade latent ingång vektorer har studerats i REF.
Adversarial vulnerability for any classifier
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}