Vi presenterar en toppmodern modell för automatisk taligenkänning. Vi lär oss att lyssna och skriva tecken med en gemensam Connectionist Temporal Classification (CTC) och uppmärksamhetsbaserad kodare-dekoder nätverk. Encodern är en djup Convolutional Neural Network (CNN) baserad på VGG-nätverket. CTC-nätverket sitter ovanpå kodaren och utbildas tillsammans med den uppmärksamhetsbaserade dekodern. Under strålsökningsprocessen kombinerar vi CTC-förutsägelserna, de uppmärksamhetsbaserade dekoderförutsägelserna och en separat utbildad LSTM-språkmodell. Vi uppnår en felreduktion på 5-10 % jämfört med tidigare system på spontant japanskt och kinesiskt tal, och vår end-to-end-modell slår ut traditionella hybrida ASR-system.
REF föreslog att man skulle utbilda en tvåspråkig ASR för spontant japanskt och kinesiskt tal med hjälp av en end-to-end Seq2Seq-modell.
Advances in Joint CTC-Attention based End-to-End Speech Recognition with a Deep CNN Encoder and RNN-LM
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}