Tvåvägslångt kortfristigt minne (BLSTM) Recurrent Neural Networks (RNN) akustiska modeller har visat överlägsen prestanda över Deep feed-forward Neural Networks (DNN) modeller i taligenkänning och många andra uppgifter. Även om en hel del arbete har rapporterats om DNN modellanpassning, mycket lite har gjorts på BLSTM modell anpassning. Detta arbete presenterar en systematisk studie om anpassning av BLSTM akustiska modeller genom att lära affin transformationer inom det neurala nätverket på små mängder oövervakade anpassningsdata. Genom en serie experiment på två viktiga riktmärken för taligenkänning (Switchboard och CHiME-4) undersöker vi betydelsen av omvandlingens position i ett BLSTM-nätverk med hjälp av en separat transformation för framåt- och bakåtriktningen. Vi observerar att tillämpa affine transformationer resulterar i konsekvent relativ ordfel hastighet minskningar från 6% till 11% beroende på uppgiften och graden av missmatchning mellan utbildning och testdata.
Det föreslagna arbetet bygger på vårt tidigare arbete REF, där vi undersökte betydelsen av positionen för högtalarberoende affine transformationer inom ett dubbelriktat LSTM-nätverk med hjälp av en separat omvandling för framåt- och bakåtriktning.
Comparison of BLSTM-Layer-Specific Affine Transformations for Speaker Adaptation
{'venue': 'INTERSPEECH', 'journal': None, 'mag_field_of_study': ['Computer Science']}