Djupa neurala nätverk är state of the art metoder för många inlärningsuppgifter på grund av deras förmåga att extrahera allt bättre funktioner på varje nätverk lager. Den förbättrade prestandan för ytterligare skikt i ett djupt nätverk kommer dock till priset av ökad latens och energianvändning i feedforward-slutsatsen. När nätverken fortsätter att bli djupare och större blir dessa kostnader mer oöverkomliga för realtids- och energikänsliga tillämpningar. För att ta itu med detta problem, presenterar vi BranchyNet, en ny djup nätverk arkitektur som utökas med ytterligare sidogren klassificerare. Arkitekturen gör det möjligt att förutsäga resultat för en stor del av proverna att lämna nätverket tidigt via dessa grenar när prover redan kan härledas med stort förtroende. BranchyNet utnyttjar observationen att funktioner som lärts på ett tidigt skikt av ett nätverk ofta kan vara tillräckligt för klassificering av många datapunkter. För svårare prover, som förväntas mindre ofta, kommer BranchyNet att använda ytterligare eller alla nätverkslager för att ge den bästa sannolikheten för korrekt förutsägelse. Vi studerar BranchyNet arkitektur med hjälp av flera välkända nätverk (LeNet, AlexNet, ResNet) och dataset (MNIST, CIFAR10) och visar att det både kan förbättra noggrannheten och avsevärt minska inference tiden i nätverket. 978-1-5090-4847-2/16/$31.00 ©2016 IEEE
BranchyNet REF utökade CNNs med ytterligare filial klassificerare för att tvinga en stor del av ingångar för att lämna dessa filialer för att möta resurskraven.
BranchyNet: Fast inference via early exiting from deep neural networks
{'venue': '2016 23rd International Conference on Pattern Recognition (ICPR)', 'journal': '2016 23rd International Conference on Pattern Recognition (ICPR)', 'mag_field_of_study': ['Computer Science']}