Framsteg inom maskininlärning (ML) har lett till dess antagande som en integrerad komponent i många tillämpningar, inklusive bank, medicinsk diagnos och förarlösa bilar. För att ytterligare bredda användningen av ML-modeller har molnbaserade tjänster som erbjuds av Microsoft, Amazon, Google och andra utvecklat ML-as-a-service-verktyg som svart-box-system. Emellertid ML klassificerare är sårbara för kontradiktoriska exempel: ingångar som är illvilligt modifierade kan orsaka klassificeraren att ge motståndare-önskad utgångar. Dessutom är det känt att kontradiktoriska exempel som genereras på en klassificerare sannolikt kommer att leda till att en annan klassiator gör samma misstag, även om klassiatorerna har olika arkitekturer eller är utbildade på separata datauppsättningar. Denna egenskap, som är känd som överförbarhet, öppnar upp möjligheten att attackera black-box system genom att generera kontradiktoriska exempel på en ersättning klassificerare och överföra exemplen till målet klassificerare. Därför är nyckeln till att skydda inlärningssystemen för svarta lådor mot de kontradiktoriska exemplen att blockera deras överförbarhet. I detta syfte föreslår vi en utbildningsmetod som, eftersom indatan är mer perturbed, klassifieraren smidigt ger lägre förtroende på den ursprungliga etiketten och istället förutspår att indatan är "invalid". I huvudsak förstärker vi utgångsklassen med en NULL-etikett och utbildar klassificeringsgivaren att förkasta de kontradiktoriska exemplen genom att klassificera dem som NULL. I experiment tillämpar vi ett brett spektrum av attacker baserade på kontradiktoriska exempel på system med svarta lådor. Vi visar att en klassificerare utbildad med den föreslagna metoden effektivt motstår de kontradiktoriska exemplen, samtidigt som noggrannheten på rena data bibehålls.
REF föreslog NULL-märkning, där neurala nätverket utbildas för att avvisa ingångar som misstänks vara motarter.
Blocking Transferability of Adversarial Examples in Black-Box Learning Systems
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}