Vi gifter oss med idéer från djupa neurala nätverk och ungefärlig Bayesian inference för att härleda en generell klass av djupa, riktade generativa modeller, utrustade med en ny algoritm för skalbar inferens och lärande. Vår algoritm introducerar en igenkänningsmodell för att representera en ungefärlig bakre fördelning och använder detta för optimering av en variationell nedre gräns. Vi utvecklar stokastisk backpropagation - regler för lutning backpropagation genom stokastiska variabler - och härleda en algoritm som möjliggör gemensam optimering av parametrarna för både generativa och igenkännande modeller. Vi demonstrerar på flera real-world dataset att genom att använda stokastisk backpropagation och variationell inference får vi modeller som kan generera realistiska prover av data, möjliggöra exakta imputeringar av saknade data, och ge ett användbart verktyg för högdimensionell datavisualisering.
Parametrarna för nätverket tränas med hjälp av stokastisk backpropagation REF.
Stochastic Backpropagation and Approximate Inference in Deep Generative Models
{'venue': 'ICML', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}