Vi introducerar en datafri kvantiseringsmetod för djupa neurala nätverk som inte kräver finjustering eller hyperparameter val. Det uppnår nästan original modell prestanda på gemensamma dator vision arkitekturer och uppgifter. 8-bitars kvantifiering av fasta punkter är nödvändig för effektiv slutledning i moderna hårdvaruarkitekturer. Kvantisering av modeller för att köra i 8-bitar är dock en icke-trivial uppgift, ofta leder till antingen betydande prestandaminskning eller ingenjörstid spenderas på utbildning ett nätverk för att kunna kvantifiera. Vår strategi bygger på att utjämna viktintervallen i nätverket genom att använda sig av en skala-ekvivarians egenskap aktiveringsfunktioner. Dessutom korrigerar metoden förutfattade meningar i felet som introduceras under kvantisering. Detta förbättrar kvantisering noggrannhet prestanda, och kan tillämpas allmänt på nästan alla modeller med en rak framåt API-anrop. För vanliga arkitekturer, såsom MobileNet familjen, vi uppnå state-of-the-art kvantized modell prestanda. Vi visar vidare att metoden även omfattar andra datorseende arkitekturer och uppgifter som semantisk segmentering och objektdetektering.
DFQ REF hävdade att datafri kvantifieringsprestanda kunde förbättras genom att utjämna viktintervallen för varje kanal i nätverket och korrigera partiska kvantiseringsfel.
Data-Free Quantization Through Weight Equalization and Bias Correction
{'venue': 'The IEEE International Conference on Computer Vision (ICCV), 2019', 'journal': None, 'mag_field_of_study': ['Mathematics', 'Computer Science']}