I detta dokument föreslår vi en ny universell maskinöversättningsstrategi som fokuserar på språk med en begränsad mängd parallella data. Vårt föreslagna tillvägagångssätt använder en transfer-learning metod för att dela lexiska och meningsnivå representationer över flera källspråk till ett målspråk. Den lexiska delen delas genom en universell Lexical Representation för att stödja flerspråkig ordnivådelning. Straffnivådelningen representeras av en modell av experter från alla källspråk som delar källkodare med alla andra språk. Detta gör det möjligt för språket med låga resurser att använda de lexiska och meningsrepresentationerna av de högre resursspråken. Vår strategi är att uppnå 23 BLEU på rumänskaengelska WMT2016 med hjälp av en liten parallell corpus av 6k meningar, jämfört med 18 BLEU av starka baslinjesystem som använder flerspråkig utbildning och back-translation. Dessutom visar vi att det föreslagna tillvägagångssättet kan uppnå nästan 20 BLEU på samma datauppsättning genom att finjustera ett förskolat flerspråkigt system i en nollställning.
REF möjliggör delning av lexik och mening representation över flera språk, särskilt för extremt låg resurs Multi-NMT.
Universal Neural Machine Translation for Extremely Low Resource Languages
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}