Abstract-A djupinlärning metod har i stor utsträckning tillämpas i sekvens modellering problem. När det gäller automatisk taligenkänning (ASR), har dess prestanda förbättrats avsevärt genom att öka stora talkorpus och djupare neurala nätverk. Speciellt, återkommande neurala nätverk och djupa konvolutionella neurala nätverk har tillämpats i ASR framgångsrikt. Med tanke på det problem som uppstår med träningshastigheten bygger vi ett nytt djupt återkommande konvolutionsnätverk för akustisk modellering och tillämpar sedan djupt kvarvarande lärande på det. Våra experiment visar att den inte bara har snabbare konvergenshastighet utan bättre igenkänningsnoggrannhet över traditionella djupa konvolutionella återkommande nätverk. I experimenten jämför vi konvergenshastigheten hos våra nya djupt återkommande konvolutionsnätverk och traditionella djupa konvolutionsnätverk. Med snabbare konvergens kan våra nya djupt återkommande konvolutionsnätverk uppnå jämförbara resultat. Vi visar vidare att tillämpande av djupt kvarvarande lärande kan öka konvergenshastigheten i våra nya djupt rekursiva konvolutionsnätverk. Slutligen utvärderar vi alla våra experimentella nätverk genom phoneme felfrekvens (PER) med vår föreslagna dubbelriktade statistiska n-gram språkmodell. Våra utvärderingsresultat visar att vårt nyligen föreslagna djupt återkommande konvolutionsnätverk som tillämpas med djupt restinlärning kan nå den bästa PER på 17,33 % med den snabbaste konvergenshastigheten på TIMIT-databasen. Den enastående prestandan hos vårt nya djupa återkommande konvolutionella neurala nätverk med djup restinlärning indikerar att det kan antas i andra sekventiella problem.
En annan nätverksarkitektur föreslogs i REF, dvs djupt återkommande konvolutionsnätverk med djupt kvarvarande lärande.
Deep Recurrent Convolutional Neural Network: Improving Performance For Speech Recognition
{'venue': None, 'journal': 'arXiv: Computation and Language', 'mag_field_of_study': ['Computer Science']}