Den variations autoencoder (VAE; ) är en nyligen föreslagen generativ modell para ihop ett uppifrån-och-ner generativt nätverk med ett nedifrån-och-upp-igenkänning nätverk som approximerar bakre inferens. Det gör vanligtvis starka antaganden om bakre inferens, till exempel att den bakre fördelningen är ungefär faktoriell, och att dess parametrar kan approximeras med icke-linjär regression från observationer. Som vi empiriskt visar kan VEA-målet leda till alltför förenklade representationer som inte använder hela nätets modellkapacitet. Vi presenterar vikten viktad autoencoder (IWAE), en generativ modell med samma arkitektur som VAE, men som använder en strikt hårdare log-likelihood lägre gräns härledd från viktning betydelse. I IWAE använder igenkänningsnätverket flera prover för att approximera den bakre, vilket ger ökad flexibilitet för modellkomplexa posteriorer som inte passar VAE-modelleringsantaganden. Vi visar empiriskt att IWAEs lär sig rikare latent utrymme representationer än VEAs, vilket leder till förbättrad test log-likelihood på densitet estimering riktmärken.
REF inför en ungefärlig bakre fördelning som är en riktad kedja.
Importance Weighted Autoencoders
{'venue': 'ICLR 2016', 'journal': 'arXiv: Learning', 'mag_field_of_study': ['Computer Science', 'Mathematics']}