Abstract-Feedforward djupa neurala nätverk som använder flera dolda lager visar hög prestanda i många applikationer, men de kräver komplex hårdvara för genomförande. Hårdvarans komplexitet kan minskas mycket genom att minimera ordlängden av vikter och signaler, men direkt kvantisering för fastpunktsnätverksdesign ger inte bra resultat. Vi optimerar den fasta-punkt design genom att anställa backpropagation baserad omskolning. De konstruerade fasta punktnäten med ternära vikter (+1, 0 och -1) och 3-bitarssignal visar endast försumbara prestandaförluster jämfört med flyttalsmotsvararna. Den backpropagation för omskolning använder kvantiserade vikter och fast punktsignal för att beräkna utdata, men använder hög precision värden för att anpassa nätverken. Ett teckenigenkänningsexempel och ett foneme-igenkänningsexempel presenteras.
REF fokuserade på en fast-punkt neurala nätverk design och uppnådde prestanda nästan identisk med den för flyttal-punkt arkitektur.
Fixed-point feedforward deep neural network design using weights +1, 0, and −1
{'venue': '2014 IEEE Workshop on Signal Processing Systems (SiPS)', 'journal': '2014 IEEE Workshop on Signal Processing Systems (SiPS)', 'mag_field_of_study': ['Computer Science']}