Reparameteriseringstricket gör det möjligt att optimera storskaliga stokastiska beräkningsgrafer via lutningsnedstigning. Kärnan i tricket är att refaktor varje stokastisk nod till en differentierad funktion av dess parametrar och en slumpmässig variabel med fast fördelning. Efter refaktoring är gradienterna för den förlust som förökas genom kedjeregeln genom grafen låga variansen opartiska skattningar av gradienterna för den förväntade förlusten. Medan många kontinuerliga slumpvariabler har sådana reparameterizations, diskret slumpvariabler saknar användbara reparameterizations på grund av den diskontinuerliga naturen av diskreta tillstånd. I detta arbete introducerar vi CONCRETE slumpmässiga variabler-Continuous avkopplingar av disCRETE slumpmässiga variabler. Betongdistributionen är en ny familj av distributioner med slutna formtätheter och en enkel omparameterisering. När en diskret stokastisk nod av en beräkningskurva kan refaktors till en enhot bit representation som behandlas kontinuerligt, Konkreta stokastiska noder kan användas med automatisk differentiering för att producera lågvarians snedgradienter av mål (inklusive mål som beror på log-sannolikheten av latenta stokastiska noder) på motsvarande diskret graf. Vi visar effektiviteten av Konkreta avslappningar på densitetsuppskattning och strukturerade förutsägelser uppgifter med hjälp av neurala nätverk.
iv) Kontinuerliga avkopplingar av diskreta distributioner REF ersätter diskreta distributioner med kontinuerliga distributioner och optimerar ett konsekvent mål.
The Concrete Distribution: A Continuous Relaxation of Discrete Random Variables
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}