Vi introducerar ett nytt system för att träna binära konvolutionella neurala nätverk (CNN) -CNNs med vikter och aktiveringar begränsade till {-1,+1} vid körtid. Det har varit känt att använda binära vikter och aktiveringar drastiskt minska minne storlek och åtkomster, och kan ersätta aritmetiska operationer med effektivare bitvis verksamhet, vilket leder till mycket snabbare testtid inferens och lägre strömförbrukning. Men tidigare arbeten på binarizing CNNs resulterar vanligtvis i allvarlig förutsägelse noggrannhet nedbrytning. I detta dokument behandlar vi denna fråga med två viktiga innovationer: (1) approximering full precision vikter med den linjära kombinationen av flera binära vikt baser; (2) med flera binära aktiveringar för att lindra informationsförlust. Implementeringen av den resulterande binära CNN, betecknad som ABC-Net, visas för att uppnå mycket närmare prestanda till sin full precision motsvarighet, och även nå jämförbara förutsägelse noggrannhet på ImageNet och skogsspår dataset, med tanke på lämpliga binära vikt baser och aktiveringar.
Dessutom använder vissa nätverk som i REF den linjära kombinationen av binära värden för att approximera full precisionsvikter och aktiveringsvärden.
Towards Accurate Binary Convolutional Neural Network
{'venue': 'NIPS 2017', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}