Varial autoencoders (VAEs) har visat ett löfte i data-driven konversation modellering. De flesta VAE-konversationsmodeller matchar dock den ungefärliga bakre fördelningen över de latenta variablerna med en enkel tidigare, t.ex. normal standardfördelning, och begränsar därigenom de genererade svaren till en relativt enkel (t.ex. unimodal) omfattning. I detta dokument föreslår vi DialogWAE, en villkorlig Wasserstein autoencoder (WAE) speciellt utformad för dialogmodellering. Till skillnad från VAEs som inför en enkel fördelning över latenta variabler modellerar DialogWAE fördelningen av data genom att träna en GAN inom latent variabelt utrymme. Speciellt, våra modellprover från tidigare och bakre fördelningar över latenta variabler genom att omvandla kontextberoende slumpmässigt brus med hjälp av neurala nätverk och minimerar Wasserstein avståndet mellan de två distributionerna. Vi utvecklar ytterligare en Gaussian blandning före nätverket för att berika latent utrymme. Experiment på två populära datauppsättningar visar att DialogWAE överträffar de senaste metoderna för att generera mer sammanhängande, informativa och mångsidiga svar.
Eftersom VAE/CVAE conversation modeller kan begränsas till en enkel latent representationer såsom standard Gaussian distribution, REF föreslås att berika latent utrymme genom att utnyttja en Gaussian blandning innan.
DialogWAE: Multimodal Response Generation with Conditional Wasserstein Auto-Encoder
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}