Med den senaste utvecklingen av bärbara enheter och Internet of Things (IoTs), blir det attraktivt att genomföra Deep Convolutional Neural Networks (DCNN) i inbyggda och bärbara system. För närvarande kräver de programvarubaserade DCNN-servrarna högpresterande servrar, vilket begränsar den utbredda spridningen på inbyggda och mobila IoT-enheter. För att övervinna detta hinder har betydande forskningsinsatser gjorts för att utveckla högparallella och specialiserade DCNN-acceleratorer med hjälp av GPGPU, FPGA eller ASIC. Stochastic Computing (SC), som använder en bit-ström för att representera ett antal inom [-1, 1] genom att räkna antalet i bit-ström, har hög potential för att genomföra DCNN med hög skalbarhet och ultra-låg hårdvara fotavtryck. Eftersom multiplikationer och tillägg kan beräknas med hjälp av AND grindar och multiplexers i SC, kan betydande minskningar av effekt (energi) och hårdvara fotavtryck uppnås jämfört med konventionella binära aritmetiska implementationer. De enorma besparingarna i kraft (energi) och maskinvaruresurser ger enorma konstruktionsutrymme för att öka skalbarhet och robusthet för hårdvara DCNN. I detta dokument presenteras SC-DCNN, det första omfattande ramverket för design och optimering av SC-baserade DCNN, med hjälp av en nedifrån-och-upp-strategi. Vi presenterar först utformningen av funktionsblock som utför den grundläggande verksamheten i DCNN, inklusive inre produkt, pooling och aktiveringsfunktion. Sedan föreslår vi fyra konstruktioner av funktionsextraktion block, som ansvarar för att extrahera funktioner från inmatningsfea-ture kartor, genom att ansluta olika grundläggande funktionsblock med gemensam optimering. Dessutom föreslås effektiva metoder för viktlagring för att minska energiförbrukningen och energiförbrukningen. Att sätta ihop alla, med funktionsextraktion block noggrant utvalda, SC-DCNN är holistiskt optimerad för att minimera område och energiförbrukning (energi) samtidigt som hög nätverksnoggrannhet upprätthålls. Experimentella resultat visar att LeNet5 som implementeras i SC-DCNN förbrukar endast 17 mm 2 area och 1,53 W effekt, uppnår genomströmning av 781250 bilder / s, område effektivitet 45946 bilder / s / s / mm 2, och energieffektivitet på 510734 bilder / J.
För att effektivt genomföra de djupa konvolutionella neurala nätverk på inbyggda / portabla system, Ren et al. utvecklat den första omfattande design och optimering ram för stokastiska datorbaserade djupa konvolutionella neurala nätverk REF.
SC-DCNN: Highly-Scalable Deep Convolutional Neural Network using Stochastic Computing
{'venue': "ASPLOS '17", 'journal': None, 'mag_field_of_study': ['Computer Science']}