Sequence to sequency (SEQ2SEQ) modeller saknar ofta mångfald i sina genererade översättningar. Detta kan tillskrivas begränsningen av SEQ2SEQ modeller i att fånga lexiska och syntaktiska variationer i en parallell corpus som härrör från olika stilar, genrer, ämnen, eller tvetydighet i översättningsprocessen. I detta dokument utvecklar vi en ny sekvens till sekvensblandning (S2SMIX) modell som förbättrar både översättningsmångfald och kvalitet genom att anta en kommitté av specialiserade översättningsmodeller snarare än en enda översättningsmodell. Varje blandningskomponent väljer sin egen träningsdatauppsättning genom optimering av den marginella loglikelihood, vilket leder till en mjuk klustring av den parallella corpus. Experiment på fyra språkpar visar överlägsenheten av vår blandning modell jämfört med en SEQ2SEQ baslinje med standard eller mångfald-boostrad stråle sökning. Vår blandningsmodell använder försumbara ytterligare parametrar och ådrar sig ingen extra beräkningskostnad under avkodningen.
REF utvecklade en sekvens-till-sekvens blandningsmodell för att anta en kommitté av översättningsmodeller.
Sequence to Sequence Mixture Model for Diverse Machine Translation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}