Vi presenterar en probabilistisk ram för att studera kontradiktoriska attacker på diskreta data. Baserat på detta ramverk härleder vi en perturbation-baserad metod, Greedy Attack, och en skalbar inlärningsbaserad metod, Gumbel Attack, som illustrerar olika kompromisser i utformningen av attacker. Vi demonstrerar effektiviteten av dessa metoder med hjälp av både kvantitativa mått och mänsklig utvärdering på olika toppmoderna modeller för textklassificering, inklusive ett ordbaserat CNN, ett karaktärsbaserat CNN och ett LSTM. Som exempel på våra resultat visar vi att noggrannheten i karaktärsbaserade konvolutionsnätverk sjunker till nivån för slumpmässigt urval genom att bara ändra fem tecken genom Greedy Attack.
REF härleder två metoder, Greedy Attack baserad på perturbation, och Gumbel Attack baserad på skalbart lärande.
Greedy Attack and Gumbel Attack: Generating Adversarial Examples for Discrete Data
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}