Även om den senaste high-end smartphone har kraftfull CPU och GPU, kör djupare konvolutionella neurala nätverk (CNNs) för komplexa uppgifter som ImageNet klassificering på mobila enheter är utmanande. För att distribuera djupa CNNs på mobila enheter, presenterar vi ett enkelt och effektivt system för att komprimera hela CNN, som vi kallar en-shot hel nätverk komprimering. Det föreslagna systemet består av tre steg: (1) rangval med variationell Bayesian matris factorization, (2) Tucker sönderdelning på kärna tensor, och (3) finjustering för att återställa ackumulerad förlust av noggrannhet, och varje steg kan enkelt genomföras med hjälp av allmänt tillgängliga verktyg. Vi visar effektiviteten i det föreslagna systemet genom att testa prestandan hos olika komprimerade CNNs (AlexNet, VGG-S, GoogLeNet, och VGG-16) på smartphone. Betydande minskningar i modellstorlek, körtid och energiförbrukning uppnås, till priset av liten förlust i noggrannhet. Dessutom tar vi upp den viktiga frågan om genomförandenivå på 1 × 1 convolution, som är en viktig funktion av startmodul av GoogLeNet samt CNN komprimeras av vårt föreslagna system.
I arbetet med REF föreslås en CNN-komprimeringsmetod baserad på Tuckers nedbrytning.
Compression of Deep Convolutional Neural Networks for Fast and Low Power Mobile Applications
{'venue': 'ICLR 2016', 'journal': 'arXiv: Computer Vision and Pattern Recognition', 'mag_field_of_study': ['Computer Science']}