Djupa konvolutionella neurala nätverk (CNN) slutsats kräver betydande mängd minne och beräkning, som begränsar dess spridning på inbyggda enheter. För att lindra dessa problem i viss utsträckning, använder tidigare forskning låg precision fasta punktnummer för att representera CNN vikter och aktiveringar. Den minsta dataprecision som krävs för fasta vikter varierar dock mellan olika nät och även mellan olika skikt i samma nät. I detta arbete föreslår vi att man använder flyttalstal för att representera vikterna och de fasta talen för att representera aktiveringarna. Vi visar att med hjälp av flyttal-punkt representation för vikter är effektivare än fast-punkt representation för samma bit-bredd och demonstrera det på populära storskaliga CNNs som AlexNet, SqueezeNet, GoogLeNet och VGG-16. Vi visar också att en sådan representationssystem möjliggör kompakt hårdvara multiplikator-ochackumulera (MAC) enhet design. Experimentella resultat visar att det föreslagna systemet minskar viktlagringen med upp till 36 % och maskinvarumultiplikatorns effektförbrukning med upp till 50 %.
I REF visar författarna att användning av flyttal för vikter och fast punkt för aktiveringar leder till en minskning av strömförbrukningen med 50 % och en minskning av modellstorleken med 36 %.
Deep Convolutional Neural Network Inference with Floating-point Weights and Fixed-point Activations
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}