Abstract - Fördelar i djupt lärande har lett till den breda antagandet av Deep Neural Networks (DNN) till en rad viktiga maskininlärning problem, t.ex., guida autonoma fordon, taligenkänning, malware upptäckt. Men, maskininlärning modeller, inklusive DNNs, visades vara sårbara för kontradiktoriska prover-subtly (och ofta mänskligt oskiljaktigt) modifierade skadliga ingångar som skapats för att äventyra integriteten i sina resultat. Motståndskraftiga exempel gör det således möjligt för motståndare att manipulera systembeteenden. Potentiella attacker inkluderar försök att kontrollera beteendet hos fordon, har spam innehåll identifieras som legitimt innehåll, eller har malware identifieras som legitim programvara. Det är känt att kontradiktoriska exempel överförs från en modell till en annan, även om den andra modellen har en annan arkitektur eller är utbildad på en annan uppsättning. Vi introducerar den första praktiska demonstrationen att denna tvärmodell överföring fenomen gör det möjligt för angripare att styra en fjärrvärd DNN utan tillgång till modellen, dess parametrar, eller dess träningsdata. I vår demonstration utgår vi bara från att motståndaren kan observera resultat från målet DNN givet indata som valts av motståndaren. Vi introducerar attackstrategin för att montera en ersättningsmodell till input-output-paren på detta sätt, och skapar sedan kontradiktoriska exempel baserade på denna hjälpmodell. Vi utvärderar tillvägagångssättet för befintliga DNN-datauppsättningar och verkliga inställningar. I ett experiment tvingar vi en DNN som stöds av MetaMind (ett av de online API:er för DNN klassificerare) att felklassificera indata med en hastighet av 84,24%. Vi avslutar med experiment som undersöker varför kontradiktoriska prover överförs mellan DNNs, och en diskussion om tillämpligheten av vår attack när man riktar maskininlärningsalgoritmer som skiljer sig från DNNs.
På grundval av överförbarheten föreslog REF a) en praktisk attack mot svarta lådor genom att utbilda en ersättningsmodell med frågad information.
Practical Black-Box Attacks against Deep Learning Systems using Adversarial Examples.
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}