I detta dokument introduceras den variationsbundna Rényi-bindningen (VR) som utvidgar den traditionella variationsinferensen till Rényis α-divergenser. Denna nya familj av variationsmetoder förenar ett antal befintliga metoder och möjliggör en smidig interpolering från de bevis som är lägre än den log marginalsannolikhet som kontrolleras av värdet av α som parametriserar skillnaden. Den reparameterisering trick, Monte Carlo approximation och stokastiska optimeringsmetoder används för att få en enhetlig ram för optimering. Vi betraktar vidare negativa α-värden och föreslår en ny variantell slutsatssmetod som ett nytt specialfall inom den föreslagna ramen. Experiment på Bayesian neurala nätverk och variations auto-encoders visar den breda tillämpligheten av VR bundna.
Löjtnant m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m för m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m m. REF föreslog en ny klass av variationsbaserade inferensmetoder med hjälp av en variant av alfadivergensen, som kallas Rényi divergens, och tillämpade den på de variationella autokodarna och Bayesian neurala nätverk.
R\'enyi Divergence Variational Inference
{'venue': 'NIPS', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}