Vi tar itu med problemet med kontradiktoriska angrepp på textklassificeringen, som sällan studeras i jämförelse med angrepp på bildklassificering. Utmaningen med denna uppgift är att skapa kontradiktoriska exempel som upprätthåller lexikal korrekthet, grammatisk korrekthet och semantisk likhet. Baserat på synonymer substitutionsstrategi, introducerar vi en ny ordersättningsordning som bestäms av både ordet salthalt och klassificeringsannolikhet, och föreslå en girig algoritm som kallas sannolikhet viktad ord saliency (PWWS) för text kontraarial attack. Experiment på tre populära datauppsättningar med hjälp av såväl konvolutionella som LSTM-modeller visar att PWWS minskar klassificeringsnoggrannheten i största möjliga utsträckning, och håller en mycket låg ordsubstitutionsfrekvens. En mänsklig utvärderingsstudie visar att våra kontradiktoriska exempel vidmakthåller den semantiska likheten väl och är svåra att uppfatta för människor. Genom att utföra kontradiktorisk träning med hjälp av våra perturbed dataset förbättras robustheten hos modellerna. Äntligen uppvisar vår metod också en god överförbarhet på de genererade kontradiktoriska exemplen.
REF bygger på synonymers substitutionsstrategi.
Generating Natural Language Adversarial Examples through Probability Weighted Word Saliency
{'venue': 'ACL', 'journal': None, 'mag_field_of_study': ['Computer Science']}