Subword enheter är ett effektivt sätt att lindra de öppna ordförrådsproblem i neural maskinöversättning (NMT). Även om meningar vanligtvis omvandlas till unika underord sekvenser, subword segmentering är potentiellt tvetydig och flera segmenteringar är möjliga även med samma ordförråd. Den fråga som tas upp i detta dokument är om det är möjligt att utnyttja tvetydigheten i segmenteringen som ett buller för att förbättra NMT:s robusthet. Vi presenterar en enkel regulariseringsmetod, underordsreglering, som tränar modellen med flera underord segmenteringar probabilistiskt provtagning under utbildningen. Dessutom, för bättre underordsprovtagning, föreslår vi en ny underord segmenteringsalgoritm baserad på en språkmodell. Vi experimenterar med flera corpora och rapporterar konsekventa förbättringar särskilt på låg resurs och out-of-domain inställningar.
REF introducerar underordsreglering som använder flera underordssekvenser för att förbättra robustheten hos NMT-modeller.
Subword Regularization: Improving Neural Network Translation Models with Multiple Subword Candidates
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}