Många problem i maskininlärning uttrycks naturligt i språket av oriktade grafiska modeller. Här föreslår vi Black-box inlärning och slutsatser algoritmer för oriktade modeller som optimerar en variationsmässig approximation till log-likelihood av modellen. Centralt för vårt tillvägagångssätt är en övre gräns på logpartitionsfunktionen parametriserad av en funktion q som vi uttrycker som ett flexibelt neuralt nätverk. Vårt band gör det möjligt att spåra partitionsfunktionen under inlärningen, att påskynda provtagningen och att träna en bred klass av hybridstyrda/oriktade modeller via en enhetlig variationsbaserad inferensram. Vi demonstrerar empiriskt effektiviteten av vår metod på flera populära generativa modelleringsdata.
Slutligen lär sig Kuleshov och Ermon REF också oriktade modeller via ett varierat mål, gjutet som en övre gräns på partitionsfunktionen.
Neural Variational Inference and Learning in Undirected Graphical Models
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}