Överföring lärande eller flerspråkig modell är viktigt för låg-resurs neural maskinöversättning (NMT), men tillämpligheten är begränsad till cognate språk genom att dela sina ordförråd. Detta papper visar effektiva tekniker för att överföra en förtränad NMT-modell till ett nytt, orelaterat språk utan delade ordförråd. Vi lindrar vokabulär missmatchningen genom att använda flerspråkiga ord inbäddning, träna en mer språk-agnostisk kodare genom att injicera artificiella ljud, och generera syntetiska data enkelt från förutbildningen data utan back-translatation. Våra metoder kräver inte en omstrukturering av vokabulären eller omskolning av modellen. Vi förbättrar enkel NMT överföring med upp till +5,1% BLEU i fem små resurser översättningsuppgifter, överträffar flerspråkig gemensam utbildning med stor marginal. Vi tillhandahåller också omfattande ablation studier om förtränade inbäddning, syntetiska data, ordförråd storlek, och parameter frysning för en bättre förståelse av NMT överföring.
I REF föreslås ytterligare tekniker för att möjliggöra NMT-överföring även utan delade ordförråd.
Effective Cross-lingual Transfer of Neural Machine Translation Models without Shared Vocabularies
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}