Vi föreslår en effektiv metod för att generera vit-box adversariella exempel för att lura en karaktär-nivå neural klassificerare. Vi finner att endast ett fåtal manipulationer behövs för att kraftigt minska noggrannheten. Vår metod bygger på en atomisk flip operation, som byter en token mot en annan, baserat på gradienterna hos de onehot ingångsvektorer. På grund av effektiviteten i vår metod kan vi utföra kontradiktorisk träning vilket gör modellen mer robust mot attacker vid provtillfället. Med hjälp av några semantik-bevarande begränsningar, visar vi att HotFlip kan anpassas för att attackera en ordnivå klassificerare också.
REF genererar motståndare genom att ersätta tecken eller ord i inmatningssekvensen baserat på lutningen hos de enhota ingångsvektorerna.
HotFlip: White-Box Adversarial Examples for Text Classification
{'venue': 'ACL', 'journal': None, 'mag_field_of_study': ['Computer Science']}