Vi presenterar en ny mekanism för att påskynda toppmoderna Convolutional Neural Networks (CNN) på CPU-FPGA-plattform med sammanhängande delat minne. Först utnyttjar vi Fast Fourier Transform (FFT) och Overlap-and-Add (OaA) för att minska beräkningskraven för det konvolutionella skiktet. Vi kartlägger frekvensdomänalgoritmerna på en högparallell OaA-baserad 2D-konvolverdesign på FPGA. Sedan föreslår vi en ny datalayout i delat minne för effektiv datakommunikation mellan CPU och FPGA. För att minska minnesåtkomstlatensen och upprätthålla toppprestandan hos FPGA använder vår design dubbelbuffring. För att minska den inter-lager data ommapping latency, utnyttjar vi samtidig bearbetning på CPU och FPGA. Vårt tillvägagångssätt kan tillämpas på alla kärnstorlekar mindre än den valda FFT-storleken med lämplig noll-pudding vilket leder till acceleration av ett brett utbud av CNN-modeller. Vi utnyttjar dataparallalismen hos OaA-baserad 2D-konvolver och uppgift parallellism för att skala den övergripande systemprestandan. Genom att använda OaA minskas antalet flyttalsoperationer med 39,14 %  och 54,10 % för de toppmoderna CNN. Vi implementerar VGG16, AlexNet och GoogLeNet på Intel QuickAssist QPI FPGA-plattform. Dessa konstruktioner upprätthåller 123.48 GFLOPs/sec, 83.00 GFLOPs/sec respektive 96.60 GFLOPs/sec. Jämfört med den senaste AlexNet implementering, vår design uppnår 1,35x GFLOPs / sec förbättring med 3,33x mindre multiplikatorer och 1,1x mindre minne. Jämfört med den senaste implementeringen av VGG16 har vår design 0,66x GFLOPs/sec med 3,48x mindre multiplikatorer utan att påverka klassificeringsnoggrannheten. För GoogLeNet-implementering uppnår vår design 5,56x prestandaförbättringar jämfört med 16 trådar som körs på en 10 Core Intel Xeon Processor på 2,8 GHz.
Zhang och Prasanna REF föreslog en metod för effektiva beräkningar av konvolutionerna på en CPU-FPGA-plattform med sammanhängande delat minne.
Frequency Domain Acceleration of Convolutional Neural Networks on CPU-FPGA Shared Memory System
{'venue': "FPGA '17", 'journal': None, 'mag_field_of_study': ['Computer Science']}