Många modeller för maskininlärning är sårbara för kontradiktoriska exempel: ingångar som är speciellt tillverkade för att få en maskininlärningsmodell att producera en felaktig utgång. Adversariella exempel som påverkar en modell påverkar ofta en annan modell, även om de två modellerna har olika arkitekturer eller utbildats på olika träningsset, så länge som båda modellerna tränades för att utföra samma uppgift. En angripare kan därför träna sin egen ersättningsmodell, hantverksmässiga kontradiktoriska exempel mot substitutet, och överföra dem till en offermodell, med mycket lite information om offret. Det senaste arbetet har vidare utvecklat en teknik som använder offret modellen som ett orakel för att märka en syntetisk utbildning set för substitutet, så angriparen behöver inte ens samla en utbildning uppsättning för att montera attacken. Vi utökar dessa nya tekniker med hjälp av reservoarprovtagning för att avsevärt öka effektiviteten i utbildningsförfarandet för ersättningsmodellen. Vi introducerar nya överförbarhet attacker mellan tidigare outforskade (substituterade, offer) par av maskininlärning modell klasser, främst SVMs och beslut träd. Vi demonstrerar våra attacker på två kommersiella maskininlärning klassificeringssystem från Amazon (96,19% felklassificeringsfrekvens) och Google (88,94%) med endast 800 frågor av offret modellen, vilket visar att befintliga maskininlärning metoder i allmänhet är sårbara för systematiska black-box attacker oavsett deras struktur.
Black-box attacker å andra sidan behandla modellen som ett orakel och inte har intim kunskap om modellen arkitektur eller specifika parametrar REF.
Transferability in Machine Learning: from Phenomena to Black-Box Attacks using Adversarial Samples
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}