Små perturbationer i inmatningen kan kraftigt förvränga mellanliggande representationer och därmed påverka översättningen kvalitet neurala maskinöversättning (NMT) modeller. I detta dokument föreslår vi att förbättra robustheten hos NMT-modeller med kontradiktorisk stabilitetsträning. Grundidén är att göra både kodaren och avkodaren i NMT-modeller robusta mot indatastörningar genom att göra det möjligt för dem att bete sig på samma sätt för den ursprungliga indatan och dess perturbed motsvarighet. Experimentella resultat på kinesiska-engelska, engelska-tyska och engelsk-franska översättningsuppgifter visar att våra metoder inte bara kan uppnå betydande förbättringar jämfört med starka NMT-system utan också förbättra robustheten hos NMT-modeller.
I REF föreslogs utbildning om kontradiktorisk stabilitet för att förbättra robustheten i fråga om godtyckliga bullertyper.
Towards Robust Neural Machine Translation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}