Vi undersöker en familj av förgiftningsattacker mot Support Vector Machines (SVM). Sådana attacker injicerar specialkonstruerade träningsdata som ökar SVM:s testfel. Centralt för motivationen för dessa attacker är det faktum att de flesta lärande algoritmer antar att deras träningsdata kommer från en naturlig eller väluppfostrad distribution. Detta antagande gäller dock i allmänhet inte säkerhetskänsliga miljöer. Som vi visar kan en intelligent motståndare i viss utsträckning förutsäga förändringen av SVM:s beslutsfunktion på grund av skadlig inmatning och använda denna förmåga att konstruera skadliga data. Den föreslagna attacken använder sig av en lutningsstigningsstrategi där lutningen beräknas utifrån egenskaperna hos SVM:s optimala lösning. Denna metod kan kärnoras och gör det möjligt att konstruera attacken i inmatningsutrymmet även för icke-linjära kärnor. Vi demonstrerar experimentellt att vårt gradientuppstigningsförfarande på ett tillförlitligt sätt identifierar god lokal maxima av den icke-konvexa valideringsfelytan, vilket avsevärt ökar klassificeringsgivarens testfel.
I REF föreslog författaren en lutningsstigningsstrategi där lutningarna beräknas utifrån egenskaperna hos SVM:s optimala lösning.
Poisoning Attacks against Support Vector Machines
{'venue': 'ICML', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}