Återkommande neurala nätverk (RNN) är en kraftfull modell för sekventiella data. End-to-end utbildningsmetoder som Connectionist Temporal Classification gör det möjligt att träna RNN för sekvensmärkning problem där input-output anpassning är okänd. Kombinationen av dessa metoder med den långsiktiga RNN-arkitekturen har visat sig vara särskilt givande, vilket ger toppmoderna resultat i kursiv handstilsigenkänning. Framträdandet av RNN i taligenkänningen har dock hittills varit en besvikelse, med bättre resultat återgäldade av djupa feedfore-nätverk. Detta dokument undersöker djupa återkommande neurala nätverk, som kombinerar de många nivåer av representation som har visat sig så effektiva i djupa nätverk med flexibel användning av lång räckvidd sammanhang som ger RNNs. När tränade end-to-end med lämplig legalisering, finner vi att djupa Långa Kortsiktiga minne RNNs uppnå ett test set fel på 17,7% på TIMIT phoneme igenkänning riktmärke, vilket enligt vår kunskap är den bästa inspelade poäng. Index Termerrecurrent neurala nätverk, djupa neurala nätverk, taligenkänning
De använde ett djupt återkommande neuralt nätverk med fullt anslutna lager och LSTM (Long Short Term Memory) REF, i vissa fall.
Speech recognition with deep recurrent neural networks
{'venue': '2013 IEEE International Conference on Acoustics, Speech and Signal Processing', 'journal': '2013 IEEE International Conference on Acoustics, Speech and Signal Processing', 'mag_field_of_study': ['Computer Science']}