Många maskininlärningsalgoritmer är sårbara för nästan omärkliga perturbationer av sina ingångar. Än så länge var det oklart hur mycket riskmotsättningar medför för säkerheten i verkliga tillämpningar för maskininlärning eftersom de flesta metoder som används för att generera sådana perturbationer beror antingen på detaljerad modellinformation (gradientbaserade attacker) eller på konfidensintervall som t.ex. klassannolikheter (score-baserade attacker), som ingendera finns i de flesta verkliga scenarier. I många sådana fall måste man för närvarande retirera till överföringsbaserade attacker som bygger på besvärliga ersättningsmodeller, behöver tillgång till utbildningsdata och kan försvaras mot. Här betonar vi vikten av attacker som enbart bygger på det slutliga modellbeslutet. Sådana beslutsbaserade attacker är (1) tillämpliga på verkliga Black-box modeller såsom autonoma bilar, (2) behöver mindre kunskap och är lättare att tillämpa än överföringsbaserade attacker och (3) är mer robusta för enkla försvar än gradient- eller poängbaserade attacker. Tidigare attacker i denna kategori var begränsade till enkla modeller eller enkla datauppsättningar. Här introducerar vi Boundary Attack, en beslutsbaserad attack som utgår från en stor motsträvig perturbation och sedan strävar efter att minska perturbationen samtidigt som den är motsträvig. Angreppet är konceptuellt enkelt, kräver nära till ingen hyperparameter tuning, inte förlitar sig på alternativa modeller och är konkurrenskraftig med de bästa gradient-baserade attacker i vanliga datorseende uppgifter som ImageNet. Vi använder attacken på två Black-box algoritmer från Clarifai.com. Gränsattacken i synnerhet och klassen av beslutsbaserade attacker i allmänhet öppnar nya vägar för att studera robustheten i maskininlärningsmodeller och väcka nya frågor om säkerheten i utplacerade maskininlärningssystem. Ett genomförande av attacken finns tillgängligt som en del av Foolbox (https://github.com/bethgelab/foolbox). Förlaga M
Gränsattacksmetoden baseras på slumpmässig gång på beslutsgränsen REF.
Decision-Based Adversarial Attacks: Reliable Attacks Against Black-Box Machine Learning Models
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}