Neural kodare-dekoder modeller av maskinöversättning har uppnått imponerande resultat, rivaliserande traditionella översättningsmodeller. Men deras modelleringsformulering är alltför förenklad, och utelämnar flera viktiga induktiva fördomar inbyggda i traditionella modeller. I detta papper utvidgar vi uppmärksamhets neural översättning modell att inkludera strukturella fördomar från ordbaserade anpassning modeller, inklusive positionell fördomar, Markov konditionering, fertilitet och överenskommelse över översättning riktningar. Vi visar förbättringar över en baslinje uppmärksamhet modell och standard fras-baserad modell över flera språkpar, utvärdera på svåra språk i en låg resursinställning.
REF utvidgade den uppmärksamhetsbaserade NMT till att omfatta strukturella fördomar från ordbaserade anpassningsmodeller, som uppnådde förbättringar mellan flera språkpar.
Incorporating Structural Alignment Biases into an Attentional Neural Translation Model
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}