Neural Machine Translation (NMT) modeller utbildas ofta på heterogena blandningar av domäner, från nyheter till parlamentariska processer, var och en med unika distributioner och språk. I detta arbete visar vi att träning av NMT-system på naivt blandade data kan försämra prestanda jämfört med modeller som passar till varje komponentdomän. Vi visar att detta problem kan kringgås och föreslår tre modeller som gör det genom att gemensamt lära sig domändiskriminering och översättning. Vi visar effektiviteten av dessa tekniker genom att slå ihop par av domäner på tre språk: kinesiska, franska och japanska. Efter utbildning om sammansatta data överträffar varje tillvägagångssätt sina domänspecifika motsvarigheter, med en modell baserad på ett discriminatornätverk som gör det mest tillförlitligt. Vi får konsekventa resultatförbättringar och en genomsnittlig ökning på 1,1 BLEU.
I stället för att naivt blanda out-of-domain och in-domändata kringgår REF problemet med domänskifte genom att gemensamt lära sig domändiskriminering och översättning.
Effective Domain Mixing for Neural Machine Translation
{'venue': 'WMT', 'journal': None, 'mag_field_of_study': ['Computer Science']}