Även om end-to-end neural text-to-tal (TTS) metoder (såsom Tacotron2) föreslås och uppnå state-of-theart prestanda, de fortfarande lider av två problem: 1) låg effektivitet under utbildning och inferens; 2) svårt att modellera långt beroende med hjälp av nuvarande återkommande neurala nätverk (RNN). Inspirerad av framgången med Transformer nätverk i neural maskinöversättning (NMT), i detta papper, introducerar och anpassa multi-head uppmärksamhet mekanism för att ersätta RNN strukturer och även den ursprungliga uppmärksamhetsmekanismen i Tacotron2. Med hjälp av multi-head själv-attention, de dolda tillstånden i kodaren och dekoder konstrueras parallellt, vilket förbättrar träningseffektiviteten. Samtidigt är två ingångar vid olika tidpunkter sammankopplade direkt med en självuppmärksamhetsmekanism, som löser det långsiktiga beroendeproblemet på ett effektivt sätt. Med hjälp av phoneme sekvenser som ingång, genererar vårt Transformer TTS-nätverk mel-spektrogram, följt av en WaveNet vocoder för att mata ut de slutliga ljudresultaten. Experiment genomförs för att testa effektiviteten och prestandan i vårt nya nätverk. För effektiviteten kan vårt Transformer TTS-nätverk snabba upp utbildningen ca 4,25 gånger snabbare jämfört med Tacotron2. För prestanda, rigorösa mänskliga tester visar att vår föreslagna modell uppnår state-of-the-art prestanda (utöverformerar Tacotron2 med ett mellanrum på 0,048) och är mycket nära mänsklig kvalitet (4,39 vs 4.44 i MOS).
Transformer-TTS antar själv-attention struktur för att förbättra utbildningen och inference effektivitet och att förkorta den långa avstånd beroende väg mellan två ingångar vid olika tidpunkter REF.
Close to Human Quality TTS with Transformer
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}