Fokus i detta dokument är att påskynda utvärderingen av konvolutionella neurala nätverk. Samtidigt som de levererar imponerande resultat över en rad datorseende och maskininlärning uppgifter, dessa nätverk är computingally krävande, begränsar deras utplaceringsbarhet. Konvolutionella skikt förbrukar i allmänhet huvuddelen av bearbetningstiden, så i detta arbete presenterar vi två enkla system för att drastiskt påskynda dessa lager. Detta uppnås genom att utnyttja cross-channel eller filter redundans för att konstruera en låg rank bas av filter som är rank-1 i den rumsliga domänen. Våra metoder är arkitektur agnostic, och kan enkelt tillämpas på befintliga CPU och GPU convolutional ramar för finjusterbara hastighetsupp prestanda. Vi demonstrerar detta med en verklig värld nätverk utformad för scen text karaktärsigenkänning, visar en möjlig 2,5× speedup utan förlust i noggrannhet, och 4,5× speedup med mindre än 1% minskning i noggrannhet, fortfarande uppnå state-of-the-art på standard riktmärken.
För att påskynda slutsatsen i konvolutionslager, Jaderberg et al. REF konstruerade en låggradig grund av filter som är rang-1 i den rumsliga domänen genom att utnyttja tvärkanal eller filter redundans.
Speeding up Convolutional Neural Networks with Low Rank Expansions
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}