Djupa konvolutionella neurala nätverk (CNN) är oumbärliga för toppmoderna datorseende algoritmer. Men de är fortfarande sällan utplacerade på batteridrivna mobila enheter, såsom smartphones och bärbara prylar, där visionalgoritmer kan möjliggöra många revolutionerande verkliga applikationer. Den viktigaste begränsande faktorn är den höga energiförbrukningen vid CNN-bearbetning på grund av dess höga beräkningskomplexitet. Även om det finns många tidigare insatser som försöker minska CNN-modellens storlek eller mängden beräkning, finner vi att de inte nödvändigtvis resulterar i lägre energiförbrukning. Dessa mål fungerar därför inte som ett bra mått för uppskattningen av energikostnaderna. För att minska klyftan mellan CNN-design och optimering av energiförbrukningen föreslår vi en energibesparande beskärningsalgoritm för CNN som direkt använder CNN:s energiförbrukning för att styra beskärningsprocessen. Energiskattningsmetoden använder parametrar som extrapolerats från faktiska maskinvarumätningar. Den föreslagna layerby-layer beskärningsalgoritmen beskärs också mer aggressivt än tidigare föreslagna beskärningsmetoder genom att minimera felet i utdatafunktionskartorna istället för filtervikterna. För varje lager beskärs vikterna först och finjusteras sedan lokalt med en sluten, minstkvadratlösning för att snabbt återställa noggrannheten. När alla lager är beskurna, hela nätverket är globalt finjusterade med hjälp av backpropagation. Med den föreslagna beskärningsmetoden, är energiförbrukningen av AlexNet och GoogLeNet minskas med 3,7× respektive 1,6×, med mindre än 1% topp-5 noggrannhet förlust. Vi visar också att minska antalet målklasser i AlexNet kraftigt minskar antalet vikter, men har en begränsad inverkan på energiförbrukningen.
En energimedveten metod för att beskära filter av CNN beskrivs i REF.
Designing Energy-Efficient Convolutional Neural Networks Using Energy-Aware Pruning
{'venue': '2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)', 'journal': '2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)', 'mag_field_of_study': ['Computer Science']}