Den akustik-till-ord-modell som bygger på kriteriet connectist temporal klassification (CTC) visades som en naturlig end-to-end (E2E) modell som direkt riktar orden som utgångsenheter. Den ordbaserade CTC-modellen lider dock av problemet med out-of-vokabulary (OOV) eftersom den bara kan modellera ett begränsat antal ord i utdatalagret och kartlägga alla återstående ord i en OOV-utmatningsnod. Därför kan en sådan ordbaserad CTC-modell bara känna igen de ofta förekommande orden som modelleras av nätverksutmatningsnoder. Vårt första försök att förbättra den akustiska modellen är en hybrid CTC-modell som konsulterar en bokstavsbaserad CTC när den ordbaserade CTC-modellen släpper ut OOV-polletter under testtiden. Sedan föreslår vi en mycket bättre lösning genom att träna en blandad CTC-modell som bryter ner alla OOV-ord i sekvenser av frekventa ord och flerbokstavsenheter. Utvärderad på en 3400 timmar Microsoft Cortana röst assistent uppgift, den slutliga akustisk-till-ord lösning förbättrar baslinje ordbaserad CTC genom relativ 12,09% ordfelsfrekvens (WER) minskning i kombination med vår föreslagna uppmärksamhet CTC. En sådan E2E-modell utan att använda någon språkmodell (LM) eller komplex dekoder överträffar den traditionella kontextberoende phoneme CTC som har stark LM och dekoder relativt 6,79%.
Nyligen, Li et al. I REF föreslogs en hybrid-CTC-modell där en A2W-modell konsulterade en Akustisk-till-Letter-modell när OOV-symbolen skapades.
C L ] 1 5 M ar 2 01 8 ADVANCING ACOUSTIC-TO-WORD CTC MODEL