Befintliga metoder för neural maskinöversättning (NMT) generera målet språksekvens token-by-token från vänster till höger. Denna typ av enkelriktade avkodningsramar kan dock inte fullt ut utnyttja de framtidssammanhang på målsidan som kan produceras i en höger-till-vänster-avkodningsriktning och som därmed lider av problemet med obalanserade resultat. I detta papper introducerar vi en synkron dubbelriktad-neural maskinöversättning (SB-NMT) som förutspår dess utgångar med hjälp av vänster-till-höger och höger-till-vänster avkodning samtidigt och interaktivt, för att utnyttja både historien och framtida information på samma gång. Specifikt föreslår vi först en ny algoritm som möjliggör synkron dubbelriktad avkodning i en enda modell. Sedan presenterar vi en interaktiv avkodningsmodell där vänster-till-höger-generering (höger-till-vänster) inte bara beror på dess tidigare genererade resultat, utan också bygger på framtida sammanhang som förutses av höger-till-vänster (vänster-till-höger) avkodning. Vi utvärderar utförligt den föreslagna SB-NMT-modellen på storskaliga NIST kinesiska-engelska, WMT14 engelskatyska och WMT18 rysk-engelska översättningsuppgifter. Experimentella resultat visar att vår modell uppnår betydande förbättringar jämfört med den starka Transformer-modellen med 3,92, 1,49 respektive 1,04 BLEU-poäng och får den senaste tekniken per- * Motsvarande författare. formance på kinesiska-engelska och engelska tyska översättningsuppgifter.
I vårt tidigare arbete REF, vi behandlar den dubbelriktade avkodning för neural maskin översättning.
Synchronous Bidirectional Neural Machine Translation
{'venue': 'Transactions of the Association for Computational Linguistics', 'journal': 'Transactions of the Association for Computational Linguistics', 'mag_field_of_study': ['Computer Science']}