Motsträviga exempel på att idiotiska maskininlärningsmodeller, särskilt djupa neurala nätverk, har varit ett ämne av intensivt forskningsintresse, med attacker och försvar utvecklas i en snäv rygg-och-fjärde. De flesta tidigare försvar är bästa ansträngningar och har visat sig vara sårbara för sofistikerade attacker. Nyligen har en uppsättning certifierade försvar införts, som ger garantier för robusthet till normbundna attacker. Men dessa försvar antingen inte skala till stora dataset eller är begränsade i de typer av modeller som de kan stödja. Detta dokument presenterar den första certifierade försvar som både skalor till stora nätverk och dataset (såsom Googles Inception nätverk för ImageNet) och gäller i stort sett godtyckliga modelltyper. Vårt försvar, som kallas PixelDP, bygger på en ny koppling mellan robusthet mot kontradiktoriska exempel och differentialintegritet, en kryptografiskt inspirerad integritetsformalism, som ger en rigorös, generisk och flexibel grund för försvar.
REF antog liknande idé och använde differentiell integritet för att ge certifierad robusthet mot kontradiktoriska störningar.
Certified Robustness to Adversarial Examples with Differential Privacy
{'venue': '2019 IEEE Symposium on Security and Privacy (SP)', 'journal': '2019 IEEE Symposium on Security and Privacy (SP)', 'mag_field_of_study': ['Mathematics', 'Computer Science']}