I denna uppsats (expanderas från ett inbjudet föredrag på AISEC 2010) diskuterar vi ett framväxande studieområde: kontradiktorisk maskininlärning – studien av effektiva maskininlärningsmetoder mot en kontradiktorisk motståndare. I denna uppsats, vi: ge en taxonomi för att klassificera attacker mot online maskininlärning algoritmer, diskutera applikationsspecifika faktorer som begränsar en motståndares kapacitet, införa två modeller för modellering av en motståndares kapacitet, utforska gränserna för en motståndares kunskap om algoritm, funktionsutrymme, utbildning och inmatningsdata, utforska sårbarheter i maskininlärning algoritmer, diskutera motåtgärder mot attacker, införa skatteflykt utmaning, och diskutera integritetsbevarande inlärningstekniker.
Motståndskraft maskininlärning är ett fält som studerar sårbarheten av ML mot attacker REF.
Adversarial machine learning
{'venue': "AISec '11", 'journal': None, 'mag_field_of_study': ['Computer Science']}