Vi anser att uppgiften att oövervakad extraktion av meningsfulla latent representationer av tal genom att tillämpa autoencoding neurala nätverk till talvågformer. Målet är att lära sig en representation som kan fånga upp semantiskt innehåll på hög nivå från signalen, t.ex. phoneme-identiteter, samtidigt som de är invarianta för att förvirra detaljer på låg nivå i signalen, t.ex. den underliggande tonhöjdskonturen eller bakgrundsbrus. Eftersom den inlärda representationen är inställd för att endast innehålla fonetiskt innehåll, använder vi en WaveNet-avkodare med hög kapacitet för att dra slutsatser om information som kastas av kodaren från tidigare prover. Dessutom, beteendet hos autoencoder modeller beror på vilken typ av tvång som tillämpas på latent representation. Vi jämför tre varianter: en enkel dimensionsreduktion flaskhals, en Gaussian Variarational Autoencoder (VAE), och en diskret Vector Quantized VAE (VQ-VAE). Vi analyserar kvaliteten på inlärda representationer i termer av högtalaroberoende, förmågan att förutsäga fonetiskt innehåll, och förmågan att korrekt rekonstruera individuella spektrogram ramar. För diskreta kodningar som extraheras med hjälp av VQ-VAE mäter vi dessutom hur enkelt det är att kartlägga dem till fonem. Vi inför ett legaliseringsprogram som tvingar representationerna att fokusera på det fonetiska innehållet i uttalandet och rapportera prestanda jämförbar med de bästa posterna i ZeroSpeech 2017 oövervakade akustiska enhet upptäckt uppgift. Index Terms-Autoencoder, tal representation lärande, oövervakad lärande, akustisk enhet upptäckt. Jan Chorowski tog emot magisterexamen. examen i elektroteknik från
WaveNet auto-encoders REF föreslog kontrasterande prediktiv kodning (CPC) för att lära tal representationer och tillämpades på oövervakad akustisk enhet upptäckt uppgift.
Unsupervised Speech Representation Learning Using WaveNet Autoencoders
{'venue': 'TASLP', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Engineering', 'Mathematics']}