Vi presenterar tekniker för att påskynda testtidsutvärderingen av stora konvolutionsnätverk, utformade för objektigenkänningsuppgifter. Dessa modeller ger imponerande noggrannhet, men varje bildutvärdering kräver miljontals flyttalsoperationer, vilket gör deras spridning på smartphones och internetkluster problematiskt. Beräkningen domineras av konvolutionsverksamheten i de lägre skikten av modellen. Vi utnyttjar redundansen i konvolutionsfiltren för att härleda approximationer som avsevärt minskar den nödvändiga beräkningen. Med hjälp av stora state-of-the-art modeller, visar vi hastigheter av konvolutionella lager på både CPU och GPU med en faktor på 2×, samtidigt som noggrannheten inom 1% av den ursprungliga modellen.
Denton m.fl. REF utnyttjade redundansen i konvolutionsfiltren för att härleda approximationer med Singular Vector Decomposition (SVD) som avsevärt minskar beräknings- och minnesavtrycket.
Exploiting Linear Structure Within Convolutional Networks for Efficient Evaluation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}