Vi utvecklar en probabilistisk ram för djupinlärning baserad på modellen Deep Rendering Mixing Model (DRMM), en ny generativ probabilistisk modell som uttryckligen fångar in variationer i data på grund av latent problemvariabler. Vi visar att max-sum inference i DRMM ger en algoritm som exakt reproducerar verksamheten i djupa konvolutionella neurala nätverk (DCNs), vilket ger en första principer härledning. Vårt ramverk ger nya insikter om de DCN:s framgångar och brister samt en principiell väg till deras förbättring. DRMM-träning via algoritmen Propectation-Maximization (EM) är ett kraftfullt alternativ till DCN back-propagation och initiala träningsresultat är lovande. Klassificering baserad på DRMM och andra varianter överträffar DCNs i övervakad sifferklassificering, utbildning 2-3× snabbare samtidigt uppnå liknande noggrannhet. Dessutom är DRMM tillämplig på halvövervakade och oövervakade inlärningsuppgifter, vilket ger resultat som är toppmoderna i flera kategorier på MNIST-riktmärket och jämförbara med den senaste tekniken på CIFAR10-riktmärket.
REF konstruerade Djup Rendering Blandning Modeller (DRMM) generera bilder med tanke på vissa störande variabler.
A Probabilistic Framework for Deep Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}