Maskininlärningssystem erbjuder oparalerad flexibilitet när det gäller att hantera utvecklingen av indata i en rad olika tillämpningar, såsom intrångsdetekteringssystem och skräppostfiltrering. Men, maskininlärning algoritmer själva kan vara ett mål för angrepp av en illvillig motståndare. Detta papper ger en ram för att svara på frågan, "Kan maskininlärning vara säker?" Nya bidrag av denna uppsats inkluderar en taxonomi av olika typer av attacker på maskininlärning tekniker och system, en mängd olika försvar mot dessa attacker, en diskussion av idéer som är viktiga för säkerhet för maskininlärning, en analytisk modell som ger en lägre gräns på angriparens arbetsfunktion, och en lista över öppna problem.
Maskininlärningssystem kan dock vara osäkra REF.
Can machine learning be secure?
{'venue': "ASIACCS '06", 'journal': None, 'mag_field_of_study': ['Computer Science']}