Konvolutionella neurala nätverk (CNN) har framträtt som en grundläggande teknik för maskininlärning. Hög prestanda och extrem energieffektivitet är avgörande för utbyggnaden av CNN, särskilt i mobila plattformar som autonoma fordon, kameror och elektroniska personliga assistenter. I detta dokument introduceras acceleratorarkitekturen Sparse CNN (SCNN), som förbättrar prestanda och energieffektivitet genom att utnyttja de nollvärdiga vikter som härrör från nätbeskärning under utbildning och nollvärdiga aktiveringar som uppstår från den gemensamma ReLU-operatören. SCNN använder ett nytt dataflöde som gör det möjligt att bibehålla de glesa vikterna och aktiveringarna i en komprimerad kodning, vilket eliminerar onödiga dataöverföringar och minskar lagringskraven. Dessutom underlättar SCNN:s dataflöde effektiv leverans av dessa vikter och aktiveringar till en multiplikatormatris, där de i stor utsträckning återanvänds; produktackumulering utförs i en ny ackumulatormatris. På samtida neurala nätverk, SCNN kan förbättra både prestanda och energi med en faktor på 2,7× respektive 2,3×, över en jämförbar provision tät CNN accelerator.
Referensreferensreferensen introducerade acceleratorarkitekturen Sparse CNN (SCNN) som utnyttjade både vikt- och aktiveringsgleshet för att förbättra både prestanda och effekt.
SCNN: An Accelerator for Compressed-sparse Convolutional Neural Networks
{'venue': "ISCA '17", 'journal': None, 'mag_field_of_study': ['Computer Science']}