Neural maskin översättning har nyligen uppnått imponerande resultat, samtidigt som man använder lite i vägen för extern språklig information. I detta dokument visar vi att den starka inlärningsförmågan hos neurala MT-modeller inte gör språkliga funktioner överflödiga; de kan enkelt införlivas för att ge ytterligare förbättringar i prestanda. Vi generaliserar inbäddade lager av kodaren i den uppmärksamhetskodare-dekoder arkitekturen för att stödja införandet av godtyckliga funktioner, utöver den grundläggande ordfunktionen. Vi lägger till morfologiska funktioner, del-ofspeech-taggar och syntaktiska beroendeetiketter som indatafunktioner till engelsk-tyska och engelska→Rumänska neurala maskinöversättningssystem. I experiment på WMT16 utbildnings- och testset, finner vi att språkliga indata förbättrar modellens kvalitet enligt tre mått: perplexitet, BLEU och CHRF3. En opensource implementation av vårt neurala MT-system är tillgänglig 1, liksom provfiler och konfigurationer 2.
REF generalisera inbäddningsskiktet av NMT till att inkludera explicita språkliga funktioner som beroenderelationer och del av taltaggar och vi utökar deras arbete till att använda CCG supertaggar.
Linguistic Input Features Improve Neural Machine Translation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}