I detta dokument undersöker vi tillämpningen av återkommande neurala nätverk språkmodeller (RNNLM) och faktoriserade språk modeller (FLM) till uppgiften att språkmodellering för kod-Switching tal. Vi presenterar ett sätt att integrera delar av taltaggar (POS) och språkinformation (LID) i dessa modeller vilket leder till betydande förbättringar när det gäller perplexitet. Dessutom görs en jämförelse mellan RNNLM:s och FLM:s och en detaljerad analys av perplexiteterna på de olika backoff-nivåerna. Slutligen visar vi att återkommande neurala nätverk och faktoriserade språkmodeller kan kombineras med linjär interpolering för att uppnå bästa prestanda. Den slutliga kombinerade språkmodellen ger 37,8 % relativ förbättring i fråga om komplexitet i SeaME-utvecklingen och en relativ förbättring på 32,7 % jämfört med den traditionella n-gram-språkmodellen.
REF undersökte tillämpningen av RNN språkmodeller och faktoriserade språkmodeller på uppgiften att identifiera kodbyte i tal, och rapporterade en betydande förbättring jämfört med den traditionella n-gram språkmodellen.
Combination of Recurrent Neural Networks and Factored Language Models for Code-Switching Language Modeling
{'venue': 'ACL', 'journal': None, 'mag_field_of_study': ['Computer Science']}