I den här artikeln utforskar vi alternativa sätt att träna ett neuralt maskinöversättningssystem i ett flerdomänscenario. Vi undersöker datakonkatering (med finjustering), modell stapling (flernivå finjustering), dataval och viktad ensemble. Vi utvärderar dessa metoder utifrån tre kriterier: i) översättningskvalitet, ii) utbildningstid och iii) robusthet mot tester utanför domänen. Våra resultat på arabiska-engelska och tyska-engelska par visar att den bästa översättningskvaliteten kan uppnås genom att bygga ett initialt system på en konkatering av tillgängliga out-of-domain data och sedan finjustera den på in-domändata. Modell stapling fungerar bäst när träningen börjar med den längsta out-of-domain data och modellen gradvis finjusteras med nästa längst domän och så vidare. Dataval gav inte de bästa resultaten, men kan betraktas som en anständig kompromiss mellan utbildningstid och översättningskvalitet. En viktad ensemble av olika individuella modeller presterade bättre än val av data. Det är fördelaktigt i ett scenario när det inte finns tid för finjustering.
För NMT har finjustering, modell stapling och muti-modell ensemble utforskats REF.
Neural Machine Translation Training in a Multi-Domain Scenario
{'venue': 'Proceedings of the 14th International Workshop on Spoken Language Translation (IWSLT), 2017', 'journal': None, 'mag_field_of_study': ['Computer Science']}