I Automatic Speech Recognition är det fortfarande svårt att lära sig användbara mellanliggande representationer när man använder högnivå (eller abstrakta) målenheter som ord. Av den anledningen tenderar karaktärs- eller fonemebaserade system att överträffa ordbaserade system när bara några hundra timmars träningsdata används. I detta dokument visar vi först hur hierarkisk multi-task utbildning kan uppmuntra bildandet av användbara mellanliggande representationer. Vi uppnår detta genom att utföra Connectionist Temporal Classification på olika nivåer av nätverket med mål av olika granularitet. Vår modell utför därmed förutsägelser i flera skalor för samma ingång. Vår hierarkiska multi-task arkitektur uppvisar på standard 300h-utbildningar förbättringar jämfört med en-task-arkitekturer med samma antal parametrar. Vår modell får 14,0% Word Felfrekvens på Eval2000 Telefon delmängd utan någon dekoder eller språk modell, överträffar den nuvarande state-of-the-art på akustisk-to-word modeller. Index Termsmulti-task learning, ASR, CTC Automatic Speech Recognition (ASR) system, traditionellt, bestod av tre komponenter: en fonemebaserad akustisk modell (AM), en ordbaserad språkmodell (LM) och en uttalslexikon som kartlägger en sekvens av fonemes till ord [1]. Denna installation var dominerande för traditionella system baserade på Gaussian Blandning Modeller (GMMs) och Dolda Markov modeller (HMMs) [2]. På senare tid har system som använder en enda förlustfunktion baserat direkt på den förutsagda sekvensen (dvs. End-to-end-modeller) visade liknande prestanda genom att använda tecken som målenheter. Denna metod används i modellerna Sequence-to-Sequence (S2S) [3] och Connectionist Temporal Classification (CTC) [4], där det inte längre krävs uttalslexikon (dvs. tecken som målenheter) förenklade ASR-ledningen. För att förenkla ASR-ledningen ännu mer föreslår [5] att man använder ord i stället för tecken som målenheter. Även om detta tvingar en sluten vokabulärinställning, visar experimenten BiLSTM... CTC Loss BiLSTM n < l a t x i t t r a 1 _ b a s 6 4 = " I q W 2 N 3 6 Q k t B n t G Q a v L h E 1 D L r E = " > A A B 6 H i c t 7 V B S 8 N A J 3 U r 1 q / q h 6 9 L B B B U 0 l E q M b t 4 8 t 2 A 9 och 9 t 9 m t 1 v s b o 8 X d 0 t 7 + A m J A t 8 F R M / J
På senare tid, i Automatisk Taligenkänning, föreslog REF också användningen av flera nivåer av segmentering i en hierarkisk multitask inlärningsstruktur.
Hierarchical Multi Task Learning With CTC
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}