I industriella maskininlärning pipelines, data ofta anländer i delar. Särskilt när det gäller djupa neurala nätverk, kan det vara för dyrt att träna modellen från grunden varje gång, så man skulle hellre använda en tidigare inlärd modell och de nya data för att förbättra prestanda. Men djupa neurala nätverk är benägna att fastna i en suboptimal lösning när tränas på endast nya data jämfört med den fullständiga datauppsättningen. Vårt arbete fokuserar på ett kontinuerligt lärande där uppgiften alltid är densamma och nya delar av data anländer sekventiellt. Vi tillämpar en Bayesian strategi för att uppdatera den bakre approximationen med varje ny del av data och hitta denna metod för att överträffa den traditionella metoden i våra experiment. Den senaste tidens arbete har visat lovande i inkrementellt lärande; till exempel, en uppsättning förstärkande inlärningsproblem har successivt lösts med en enda modell med hjälp av vikt konsolidering (Kirkpatrick et al., 2016) eller Bayesian inference (Nguyen et al., 2017). I detta arbete fokuserar vi på en specifik inkrementell inlärningsmiljö - vi överväger en enda fast uppgift när oberoende data delar anländer sekventiellt. Vi formulerar en Bayesian metod för inkrementellt lärande och använder senaste framsteg i approximation Bayesian inference (Kingma & Welling, 2013; Kingma et al., 2015; Louizos & Welling, 2017) för att få en skalbar inlärningsalgoritm. Vi demonstrerar prestandan av vår metod på MNIST och CIFAR-10 förbättras i förhållande till en naiv finjusteringsmetod och kan tillämpas på en konventionell (icke-bayesian) förtränad DNN. I en inkrementell inlärningsmiljö, är denna datauppsättning uppdelad i T delar D = {D 1,. .., D T }, som anländer sekventiellt under utbildningen. Målet är att bygga en effektiv algoritm som tar en modell, tränad på de första t−1 enheter av data D 1,. ., D t1, och omskola den på en ny enhet av data D t utan tillgång till D 1,. .., D t-1 och utan att glömma beroenden. Den mest naiva djupt lärande metod för inkrementellt lärande är att tillämpa Stochastic Gradient Descent (SGD) uppdateringar med samma förlustfunktion på de nya datadelarna, att finjustera modellen. I så fall kommer dock modellen sannolikt att konvergera till en lokal optima på en ny dataenhet utan att spara den information som inhämtats från de tidigare delarna av uppgifterna. Bayesianska ramverket är ett kraftfullt verktyg för att arbeta med probabilistiska modeller. Det gör det möjligt att uppskatta den bakre fördelningen p(w  på D 1,. .., D t ) över vikterna w av modellen. Vi kan använda Bayes regeln för att sekventiellt uppdatera den bakre fördelningen i den inkrementella inlärningsinställningen: Tyvärr, i de flesta fall den bakre fördelningen p(w  till D 1,. .., D t ) är intractable, så vi kan använda stochastic variational inference (Hoffman et al., 2012) för att uppskatta det. I nästa avsnitt presenterar vi en skalbar metod för inkrementellt lärande, och studerar olika variations approximationer av den bakre fördelningen. Vi tillämpar variationsinferens till ungefärlig p(w  på D 1,. .., D t )  ska q(w  till )  på Q med endast tillgång till D t och den tidigare approximationen q(w  på k1).....,, D t ) För att träna vår modell följer vi Kingma & Welling (2013) och använder reparameteriseringstricket för att få en opartisk differentierad minibatch-baserad Monte Carlo-skattning av den variationella nedre gränsen Den tidigare distributionen p t (w) är den bakre approximationen q(w -) t-1 ) från föregående steg. Tyvärr är denna approximation inte exakt och som ett resultat blir det stegvisa förfarandet partiskt. Kvaliteten på inkrementell inlärningsalgoritm beror starkt på den bakre approximationen q, med mer uttrycksfulla familjer med en lägre approximation gap, men sämre stabilitet. Vi undersöker, hur olika approximationer beter sig i en Bayesian inkrementell inlärningsalgoritm.
REF tog itu med problemet med kontinuerlig inlärning från oberoende datadelar för en enda fast uppgift genom att approximera de bakre sannolikheterna genom stokastisk variationsinferens.
Bayesian Incremental Learning for Deep Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}