Neural maskinöversättning (NMT) ofta lider från sårbarhet till bullriga störningar i inmatningen. Vi föreslår en strategi för att förbättra robustheten hos NMT-modeller, som består av två delar: 1) attackera översättningsmodellen med kontradiktoriska källexempel; 2) försvara översättningsmodellen med kontradiktoriska målingångar för att förbättra dess robusthet mot de kontradiktoriska källingångarna. För generering av kontradiktoriska ingångar föreslår vi en gradientbaserad metod för att skapa kontradiktoriska exempel som är informerade om översättningsförlusten över de rena ingångarna. Experimentella resultat på kinesiska-engelska och engelska tyska översättningsuppgifter visar att vår strategi uppnår betydande förbättringar (2,8 och 1,6 BLEU poäng) över Transformer på standard rena riktmärken samt uppvisar högre robusthet på bullriga data.
Cheng m.fl. I REF föreslogs en gradientbaserad metod för att generera kontradiktoriska meningar genom att utföra ordbyte.
Robust Neural Machine Translation with Doubly Adversarial Inputs
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}