Sekvens-till-sekvens modeller har visat framgång i end-to-end taligenkänning. Dessa modeller har dock endast använt ytliga akustiska kodarnätverk. I vårt arbete tränar vi successivt mycket djupa konvolutionella nätverk för att tillföra mer expressiv kraft och bättre generalisering för end-to-end ASR-modeller. Vi tillämpar nätverks-in-nätverksprinciper, batch normalisering, restanslutningar och konvolutionella LSTMs för att bygga mycket djupa återkommande och konvolutionella strukturer. Våra modeller utnyttjar spektralstrukturen i funktionsutrymmet och lägger till beräkningsdjup utan att översitta problem. Vi experimenterar med WSJ ASR uppgiften och uppnå 10,5% ordfelsfrekvens utan någon ordbok eller språkmodell med hjälp av ett 15 lager djupt nätverk.
REF föreslog ett djupt konvolutionsnätverk med batchnormalisering (BN), återstående anslutningar och konvolutionell LSTM struktur.
Very deep convolutional networks for end-to-end speech recognition
{'venue': '2017 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)', 'journal': '2017 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)', 'mag_field_of_study': ['Computer Science']}