"Hur mycket energi förbrukas för en slutsats gjord av ett konvolutionellt neuralt nätverk (CNN)?" I och med CNN:s ökade popularitet på plattformarnas breda spektrum (från mobila enheter till arbetsstationer) har svaret på denna fråga fått stor uppmärksamhet. Från att förlänga batteritiden för mobila enheter till att minska energiräkningen för ett datacenter, är det viktigt att förstå CNN:s energieffektivitet när du tjänar för att göra en slutledning, innan du faktiskt tränar modellen. I detta arbete föreslår vi NeuralPower: en lagervis prediktiv ram baserad på gles polynom regression, för att förutsäga server energiförbrukning för en CNN utplacerad på någon GPU-plattform. Med tanke på arkitekturen i ett CNN, NeuralPower ger en exakt förutsägelse och nedbrytning för effekt och körtid över alla lager i hela nätverket, hjälper maskininlärare snabbt identifiera effekt, körtid, eller energi flaskhalsar. Vi föreslår också "energiprecisionsförhållandet" (EBR) metriska för att vägleda maskininlärare i valet av en energieffektiv CNN-arkitektur som bättre avhandlar energiförbrukningen och förutsägelsenoggrannheten. De experimentella resultaten visar att prediktionsnoggrannheten hos den föreslagna NeuralPower överträffar den bäst publicerade modellen hittills, vilket ger en förbättring av noggrannheten på upp till 68,5%. Vi bedömer också exaktheten i förutsägelser på nätverksnivå, genom att förutsäga drifttid, effekt och energi för toppmoderna CNN-arkitekturer, uppnå en genomsnittlig noggrannhet på 88,24 % i drifttid, 88,34 % i effekt och 97,21 % i energi. Vi bekräftar på ett omfattande sätt NeuralPowers effektivitet som ett kraftfullt ramverk för maskininlärare genom att testa den på olika GPU-plattformar och deep Learning-programverktyg.
- Cai och Al. föreslå NeuralPower REF, en skiktvis prediktiv ram baserad på gles polynom regression, för att förutsäga server energiförbrukning för en CNN utplacerad på olika GPU-plattformar och Deep Learning programvara, uppnå en genomsnittlig noggrannhet på 88,24% i utförandetid, 88,34% i effekt och 97,21% i energi.
NeuralPower: Predict and Deploy Energy-Efficient Convolutional Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}