Syftet med detta dokument är att analysera den spännande instabiliteten hos klassificeringspersoner till kontradiktoriska perturbationer (Szegedy et al., i: Internationell konferens om inlärningsrepresentationer (ICLR), 2014). Vi tillhandahåller en teoretisk ram för att analysera robustheten hos klassificerare till kontrarisiva perturbationer, och visa grundläggande övre gränser på robustheten hos klassificerare. Specifikt etablerar vi en generell övre gräns på robustheten hos klassificatorer till kontrarisiva perturbationer, och illustrerar sedan den erhållna övre gränsen på två praktiska klasser av klassificerare, nämligen linjära och kvadratiska klassificerare. I båda fallen beror vår övre gräns på ett särskiljande mått som fångar begreppet svårighet i klassificeringsuppgiften. Våra resultat för båda klasserna innebär att ingen klassificering i den aktuella uppsättningen kommer att vara robust till kontradiktoriska störningar, även om en god noggrannhet uppnås. Vår teoretiska ram tyder dessutom på att fenomenet med kontradiktorisk instabilitet beror på den låga flexibiliteten hos klassificeringspersoner, jämfört med svårigheten med klassificeringsuppgiften (som matematiskt fångas upp av distinktionsmåttet). Vi visar vidare att det finns en tydlig skillnad mellan robustheten hos en klassificeringsapparat för slumpmässigt buller och dess robusthet mot kontradiktoriska störningar. Specifikt visas att den förra är större än den senare med en faktor som är proportionell mot ε d (med d är signaldimensionen) för linjära klassificeringsapparater. Detta resultat ger en teoretisk förklaring till skillnaden mellan de två robusthetsegenskaperna i högdimensionella problem, vilket empiriskt observerades av Szegedy et al. i samband med neurala nätverk. Vi visar äntligen Editor:
A. Fawzi et al ge en teoretisk ram för att analysera robustheten hos klassificeringar till kontradiktoriska perturbationer och visa grundläggande övre gränser på robustheten av klassificerings-REF.
Analysis of classifiers’ robustness to adversarial perturbations
{'venue': 'Machine Learning', 'journal': 'Machine Learning', 'mag_field_of_study': ['Mathematics', 'Computer Science']}