Nuvarande neurala nätverk-baserade bild klassificerare är mottagliga för kontradiktoriska exempel, även i den svarta-box-inställningen, där angriparen är begränsad till att fråga åtkomst utan tillgång till gradienter. Tidigare metoder - substitute nätverk och koordinatbaserade finita-differentieringsmetoder - är antingen opålitliga eller frågeineffektiva, vilket gör dessa metoder opraktiska för vissa problem. Vi introducerar en ny metod för att på ett tillförlitligt sätt generera kontradiktoriska exempel under mer begränsade, praktiska Blackbox hot modeller. För det första tillämpar vi naturliga utvecklingsstrategier för att utföra black-box attacker med hjälp av två till tre storleksordningar färre frågor än tidigare metoder. För det andra introducerar vi en ny algoritm för att utföra riktade motangrepp i partiell information, där angriparen endast har tillgång till ett begränsat antal målklasser. Med hjälp av dessa tekniker utför vi framgångsrikt den första riktade motattacken mot ett kommersiellt utplacerat maskininlärningssystem, Google Cloud Vision API, i den partiella informationsinställningen.
För poängbaserade attacker, Ilyas et al. REF tillämpade naturliga utvecklingsstrategier och använde endast två till tre storleksordningar färre frågor än tidigare metoder.
Query-Efficient Black-box Adversarial Examples
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}