Konventionell uppmärksamhet-baserad Neural Machine Translation (NMT) utför dynamisk anpassning för att generera målet mening. Genom att upprepade gånger läsa representationen av käll mening, som håller fast efter genereras av kodaren (Bahdanau et al., 2015), uppmärksamhetsmekanismen har kraftigt förbättrat state-of-the-art NMT. I detta dokument föreslår vi en ny uppmärksamhetsmekanism, kallad INTERAKTIV ATTENTION, som modellerar samspelet mellan dekodern och representationen av källmeningen vid översättning genom både läs- och skrivoperationer. INTERAKTIV ATTENTION kan hålla reda på interaktionshistoriken och därmed förbättra översättningsprestandan. Experiment på NIST Kinesisk-Engelsk översättning uppgift visar att INTERAKTIV ATTENTION kan uppnå betydande förbättringar över både den tidigare uppmärksamhet-baserade NMT baslinje och några state-of-the-art varianter av uppmärksamhet-baserad NMT (dvs., täckningsmodeller (Tu et al., 2016)
REF föreslog interaktiv uppmärksamhet med uppmärksam läsning och uppmärksam skrivoperation för att hålla reda på interaktionshistoriken.
Interactive Attention for Neural Machine Translation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}