Språkliga resurser som del-of-peech (POS) taggar har i stor utsträckning använts i statistiska maskinöversättningar (SMT) ramar och har gett bättre resultat. Användningen av sådana språkliga annoteringar i neurala maskinöversättningssystem (NMT) har dock lämnats underexploaterad. I detta arbete visar vi att lärande med flera uppgifter är en framgångsrik och enkel metod för att introducera ytterligare kunskap i en end-to-end neural uppmärksamhetsmodell. Genom att gemensamt utbilda flera uppgifter i naturligt språk (NLP) i ett system kan vi utnyttja gemensam information och förbättra utförandet av den individuella uppgiften. Vi analyserar effekterna av tre designbeslut vid lärande med flera arbetsuppgifter: de uppgifter som används i utbildningen, utbildningsschemat och graden av parameterdelning mellan arbetsuppgifterna, vilket definieras av nätverksarkitekturen. Experimenten utförs för en tysk till engelsk översättning uppgift. Som ytterligare språkliga resurser utnyttjar vi POS-information och namngivna enheter (NE). Experiment visar att översättningskvaliteten kan förbättras med upp till 1,5 BLEU-poäng under lågresursvillkoret. POS-talkens resultat förbättras också med hjälp av systemet för lärande med flera arbetsuppgifter.
Niehues och Cho REF visade att lärande för multitask är framgångsrikt och introducerade ytterligare kunskap i en end-to-end neural uppmärksamhetsmodell.
Exploiting Linguistic Resources for Neural Machine Translation Using Multi-task Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}