Tidsfördröjning neurala nätverk (TDNN) är en effektiv akustisk modell för stora ordförråd taligenkänning. Modellens styrka kan tillskrivas dess förmåga att effektivt modellera långa tidsmässiga sammanhang. De nuvarande TDNN-modellerna är dock relativt ytliga, vilket begränsar modelleringskapaciteten. I detta dokument föreslås en metod för att öka nätverkets djup genom att fördjupa kärnan som används i TDNN:s temporalkonvolutioner. Den bäst presterande kärnan består av tre helt anslutna lager med en restanslutning (ResNet) från utgången av den första till utgången av den tredje. Tillsatsen av spektrotemporal bearbetning som ingång till TDNN i form av ett konvolutionellt neuralt nätverk (CNN) och en nydesignad Grid-RNN undersöktes. Grid-RNN överträffar kraftigt ett CNN om olika uppsättningar parametrar för olika frekvensband används och kan förbättras ytterligare genom att använda ett dubbelriktat Grid-RNN. Experiment som använder multigenere broadcast (MGB3) engelska data (275h) visar att djupkärniga TDNNs minskar ordfelsfrekvensen (WER) med 6% relativ och i kombination med frekvensberoende Grid-RNN ger en relativ WER-reduktion på 9%.
Den Time-Delay Neural Network (TDNN) kombinerar nuvarande utdata från det dolda lagret med utdata från flera ögonblick före och efter som indata till nästa dolda lager REF.
Improved Tdnns Using Deep Kernels and Frequency Dependent Grid-RNNS
{'venue': '2018 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)', 'journal': '2018 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP)', 'mag_field_of_study': ['Computer Science', 'Engineering', 'Mathematics']}