Generativa kontradiktoriska nätverk (GAN) har gett oss ett bra verktyg för att passa implicita generativa modeller till data. Implicitfördelningar är sådana som vi enkelt kan ta prov på, och ta provderivat med avseende på modellparametrar. Dessa modeller är mycket uttrycksfulla och vi hävdar att de kan visa sig lika användbara för variationsinferens (VI) som de är för generativ modellering. Flera uppsatser har föreslagit GAN-liknande algoritmer för slutsatser, men kopplingar till teorin om VI är inte alltid väl förstådda. Detta dokument ger en enhetlig granskning av befintliga algoritmer som etablerar kopplingar mellan variations autoenkodrar, kontraariskt inferens, operatör VI, GAN-baserad bildrekonstruktion med mera. För det andra ger dokumentet en ram för att bygga nya algoritmer: beroende på hur variationsbundet uttrycks introducerar vi tidigare kontrastiva och gemensammakontrastiva metoder och visar praktiska inferensalgoritmer baserade på antingen uppskattning av densitetsförhållandet eller denoisering.
Efter framgången med lärande med implicita generativa modeller, implicita distributioner tillämpas på variationell inferens, som undersöks i REF.
Variational Inference using Implicit Distributions
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}