Utvärdering av kontradiktoriska exempel har blivit ett standardförfarande för att mäta robustheten hos modeller för djupt lärande. På grund av svårigheten att skapa kontradiktoriska exempel för diskret textinmatning har de flesta analyser av NLP-modellernas robusthet gjorts med hjälp av kontradiktoriska exempel från blackbox. Vi undersöker kontradiktoriska exempel för tecken-nivå neural maskinöversättning (NMT), och kontrast svart-box motståndare med en ny vit-box motståndare, som använder olika sträng-edit operationer för att rangordna kontrariska förändringar. Vi föreslår två nya typer av attacker som syftar till att ta bort eller ändra ett ord i en översättning, snarare än att helt enkelt bryta NMT. Vi visar att vit-box kontraversariella exempel är betydligt starkare än deras Black-box motsvarigheter i olika attackscenarier, som visar mer allvarliga sårbarheter än tidigare känt. Dessutom kan vi efter att ha genomfört kontradiktorisk träning, som tar bara 3 gånger längre tid än vanlig träning, förbättra modellens robusthet avsevärt.
REF använde white-box metoder för att generera kontradiktoriska exempel på teckennivå NMT.
On Adversarial Examples for Character-Level Neural Machine Translation
{'venue': 'COLING 2018', 'journal': None, 'mag_field_of_study': ['Computer Science']}