Den ömsesidiga informationen är en grundläggande statistisk kvantitet som har tillämpningar inom alla områden av maskininlärning, oavsett om detta är i utbildning av densitetsmodeller över flera dataformer, för att maximera effektiviteten av bullriga överföringskanaler, eller när lärande beteende politik för utforskning av artificiella agenter. De flesta lärande algoritmer som innebär optimering av ömsesidig information förlitar sig på Blahut-Arimoto algoritm - en uppräkningsalgoritm med exponentiell komplexitet som inte är lämplig för moderna maskininlärning applikationer. Detta dokument ger ett nytt tillvägagångssätt för skalbar optimering av den ömsesidiga informationen genom sammanslagning av tekniker från olika inferenser och djupinlärning. Vi utvecklar vår strategi genom att fokusera på problemet med egenmotiverat lärande, där den ömsesidiga informationen utgör definitionen av en välkänd intern drivkraft som kallas egenmakt. Med hjälp av en variationell lägre gräns på den ömsesidiga informationen, kombinerat med konvolutionella nätverk för hantering av visuella ingångsströmmar, utvecklar vi en stokastisk optimeringsalgoritm som möjliggör skalbar informationsmaximering och egenmaktsbaserat resonemang direkt från pixlar till åtgärder.
På senare tid har Ref föreslagit en skalbar strategi genom att maximera en lägre gräns för den ömsesidiga informationen.
Variational Information Maximisation for Intrinsically Motivated Reinforcement Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}