Djupt lärande har blivit det senaste verktyget i många tillämpningar, men utvärdering och utbildning av djupa modeller kan vara tidskrävande och beräknings dyrt. Den villkorliga beräkningsmetoden har föreslagits för att ta itu med detta problem (Bengio et al., 2013; Davis & Arel, 2013). Det verkar genom att selektivt aktivera endast delar av nätet åt gången. I detta dokument använder vi förstärkningslärande som ett verktyg för att optimera villkorlig beräkningspolicy. Mer specifikt kastar vi problemet med att lära sig aktiveringsberoende politik för att släppa ut block av enheter som ett förstärkande inlärningsproblem. Vi föreslår ett inlärningssystem som motiveras av beräkningshastighet, fånga idén om att vilja ha parsimoniska aktiveringar samtidigt som förutsägelse noggrannhet. Vi tillämpar en policygradientalgoritm för lärandestrategier som optimerar denna förlustfunktion och föreslår en legaliseringsmekanism som uppmuntrar diversifiering av avhoppspolitiken. Vi presenterar uppmuntrande empiriska resultat som visar att detta tillvägagångssätt förbättrar beräkningshastigheten utan att påverka kvaliteten på approximationen.
Som en majoritet av villkorliga beräkningar använder sig av stokastiska binära enheter som utgör utbildningsmöjligheter utmaningar, REF kasta problemet som en förstärkning inlärningsproblem och föreslog en politik som kartlägger aktiveringar av lager till Bernoulli masker.
Conditional Computation in Neural Networks for faster models
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}