Vi presenterar dubbel stokastisk lutning MCMC, en enkel och generisk metod för (ungefär) Bayesian slutsatser av djupa generativa modeller (DGM) i en kollapsad kontinuerlig parameter utrymme. Vid varje MCMC provtagning steg, algoritmen slumpmässigt drar en mini-batch av dataprover för att uppskatta lutningen av log-posterior och ytterligare uppskattar den intractable förväntan över dolda variabler via en neural adaptiv betydelse provtagare, där förslaget distribution parameteriseras av ett djupt neuralt nätverk och lärt sig gemensamt. Vi demonstrerar effektiviteten i att lära sig olika DGM i ett brett spektrum av uppgifter, inklusive täthetsuppskattning, datagenerering och saknad dataimputation. Vår metod överträffar många toppmoderna konkurrenter.
Neural adaptiv MCMC REF använder en liknande igenkänningsmodell som förslagets fördelning av viktprovtagning för att uppskatta lutningen av log-offerior och kan därför göra en ungefärlig Bayesiansk slutsats av DGM.
Learning Deep Generative Models with Doubly Stochastic MCMC
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}