Variala autokodrar (VAE) har fått mycket uppmärksamhet nyligen som en endto-end arkitektur för textgenerering med latenta variabler. I det här dokumentet undersöker vi flera flernivåstrukturer för att lära oss en VEA-modell för att generera lång och sammanhängande text. I synnerhet använder vi en hierarki av stokastiska lager mellan kodare och avkodare nätverk för att generera mer informativ latent koder. Vi undersöker också en flernivådekoderstruktur för att lära oss en sammanhängande långsiktig struktur genom att generera mellanliggande meningsrepresentationer som högnivåplanvektorer. Empiriska resultat visar att en VAE-modell på flera nivåer ger en mer sammanhängande och mindre repetitiv lång text jämfört med standardmodellerna för VAE och kan ytterligare minska problemet med bakre kollaps.
REF föreslog ml-VAE-D med latenta variabler på flera nivåer.
Towards Generating Long and Coherent Text with Multi-Level Latent Variable Models
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}