Läroplansstrategier är kända för att förbättra noggrannheten, robustheten och konvergensen för olika språkinlärningsuppgifter med hjälp av djupa arkitekturer (Bengio et al., 2009). I detta arbete utformar och experimenterar vi med flera utbildningsplaner för två uppgifter - ord-nivå språkdetektering och språkmodellering - för kod-switchade textdata. Vår studie visar att oavsett uppgiften eller den underliggande DNN-arkitekturen, är den bästa läroplanen för utbildning av kodförändrade modeller att först träna ett nätverk med enspråkiga utbildningsinstanser, där varje mini-batch har instanser från båda språken, och sedan träna det resulterande nätverket på kodförmedlade data.
REF har anpassat en effektiv läroplansutbildning genom att utbilda ett nätverk med enspråkig korpora med två språk och därefter utbildat sig i kodbytesdata.
Design for Code-switching : Experiments with Language Identification and Language Modeling with Deep Neural Networks