Djupa neurala nätverk och maskininlärningsalgoritmer används genomträngligt i flera tillämpningar, allt från datorseende till datorsäkerhet. I de flesta av dessa tillämpningar måste inlärningsalgoritmen möta intelligenta och adaptiva angripare som noggrant kan manipulera data för att avsiktligt subvertera inlärningsprocessen. Eftersom dessa algoritmer inte ursprungligen har utformats under sådana förutsättningar, har de visat sig vara sårbara för välgjorda, sofistikerade attacker, inklusive utbildnings-tid förgiftning och test-tid undandragande attacker (även kallade kontradiktoriska exempel). Problemet med att motverka dessa hot och lära sig säkra klassificeringar i kontradiktoriska miljöer har därmed blivit föremål för ett framväxande, relevant forskningsområde som kallas kontradiktoriskt maskininlärning. Syftet med denna handledning är: a) att introducera grunderna i kontradiktorisk maskininlärning till säkerhetsgemenskapen; b) att illustrera designcykeln för ett inlärningsbaserat mönsterigenkänningssystem för kontradiktoriska uppgifter; c) att presentera nya tekniker som nyligen föreslagits för att bedöma prestanda hos mönsterklassificerare och algoritmer för djupinlärning under attack, utvärdera deras sårbarheter och genomföra försvarsstrategier som gör lärande algoritmer mer robusta mot attacker; och d) att visa vissa tillämpningar av kontradiktorisk maskininlärning till mönsterigenkänning uppgifter som objektigenkänning i bilder, biometrisk identitetsigenkänning, spam och malware upptäckt.
Adversariella exempel har undersökts för allmänna inlärningsbaserade klassificeringar innan REF.
Wild Patterns: Ten Years After the Rise of Adversarial Machine Learning
{'venue': "CCS '18", 'journal': None, 'mag_field_of_study': ['Computer Science']}