Vi presenterar en ny metod för neural maskinöversättning (NMT) med hjälp av morfologiska och grammatiska nedbrytning av orden (faktorer) i utdatasidan av neurala nätverket. Denna arkitektur tar upp två huvudsakliga problem som uppstår på MT, nämligen att hantera en stor målspråks vokabulär och av vokabulär (OOV) ord. Med hjälp av faktorer kan vi hantera större ordförråd och minska träningstiden (för system med motsvarande målspråksstorlek). Dessutom kan vi producera nya ord som inte finns i vokabulären. Vi använder en morfologisk analysator för att få en faktoriserad representation av varje ord (lemmor, en del av taltaggen, spänd, person, kön och tal). Vi har utökat NMT strategi med uppmärksamhetsmekanism (Bahdanau et al., 2014) för att ha två olika utgångar, en för lemmas och den andra för resten av faktorerna. Den slutliga översättningen är byggd med hjälp av lite förhandsspråklig information. Vi jämför vår förlängning med ett ordbaserat NMT-system. Experimenten, som utförs på IWSLT'15 dataset översätta från engelska till franska, visar att även om prestandan inte alltid ökar, systemet kan hantera en mycket större ordförråd och konsekvent minska OOV-frekvensen. Vi observerar upp till 2% BLEU punkt förbättring i en simulerad utanför domän översättning installation.
REF föreslår begreppet faktoriserad NMT, och de använder den språkliga sönderdelningen av orden i utdatasidan snarare än i inmatningen.
Factored Neural Machine Translation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}