Det senaste arbetet har visat att toppmoderna klassifikationer är ganska spröda, i den meningen att en liten kontradiktorisk förändring av en ursprungligen med stort förtroende korrekt klassificerad insats leder till en felaktig klassificering igen med stort förtroende. Detta ger upphov till farhågor om att sådana klassificeringar är sårbara för attacker och ifrågasätter deras användning i säkerhetskritiska system. Vi visar i detta dokument för första gången formella garantier för robustheten hos en klassificeringsapparat genom att ge instansspecifika lägre gränser på normen för den inmatningsmanipulation som krävs för att ändra klassificeringsbeslutet. Baserat på denna analys föreslår vi Cross-Lipschitz legalisering funktion. Vi visar att använda denna form av legalisering i kärnmetoder resp. Neurala nätverk förbättrar rangordnarens robusthet utan någon förlust i förutsägelseprestanda.
Hein och Andriusjchenko lämnade de första formella garantierna för den kontradiktoriska robustheten hos en klassificeringsreferens.
Formal Guarantees on the Robustness of a Classifier against Adversarial Manipulation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}