Flerspråkig utbildning har visat sig förbättra den akustiska modellens prestanda genom att dela med sig av och överföra kunskap i modellering av olika språk. Kunskapsdelning uppnås vanligtvis genom att använda gemensamma lägre nivåer lager för olika språk i ett djupt neuralt nätverk. Nyligen föreslogs det tvärgående nätverket för domäner för att minska missmatchningen av utbildningsdata och lära sig domäninvarianta funktioner. Det är därför värt att undersöka om kontradiktorisk utbildning ytterligare kan främja kunskapsutbyte i flerspråkiga modeller. I detta arbete använder vi domänen kontradiktoriska nätverk för att uppmuntra de delade skikten av en flerspråkig modell för att lära sig språkinvarianta funktioner. Tvåvägslångt kortfristigt minne (LSTM) återkommande neurala nätverk (RNN) används som byggstenar. Vi visar att delade lager som lärts på detta sätt innehåller mindre information om språkidentifiering och leder till bättre prestanda. I en automatisk taligenkänningsuppgift för sju språk, den resulterande akustiska modellen förbättrar ordfelsfrekvensen (WER) av den flerspråkiga modellen med 4% relativ i genomsnitt, och de enspråkiga modellerna med 10%.
Ett liknande tillvägagångssätt har använts i REF där de studerar detta område-adversariella tillvägagångssätt om taligenkänning uppgift i en flerspråkig setup för att extrahera språk invariant representation.
Adversarial Training for Multilingual Acoustic Modeling
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Engineering']}