I detta dokument föreslogs en metod för mjukfilterbeskärning (SFP) för att påskynda inferensförfarandet för djupa konvolutionella neurala nätverk (CNN). Den föreslagna SFP gör det möjligt att uppdatera de beskurna filtren vid utbildning av modellen efter beskärning. SFP har två fördelar jämfört med tidigare arbeten: (1) Större modellkapacitet. Uppdatering av tidigare beskurna filter ger vårt tillvägagångssätt större optimeringsutrymme än att fixera filtren till noll. Därför har det nätverk som utbildats genom vår metod en större modellkapacitet att lära sig av träningsdata. (2) Mindre beroende av den förskolade modellen. Stor kapacitet gör det möjligt för SFP att träna från grunden och beskära modellen samtidigt. Tidigare filterbeskärningsmetoder bör däremot utföras på grundval av den förträngda modellen för att garantera deras prestanda. Empiriskt, SFP från scratch överträffar de tidigare filterbeskärningsmetoderna. Dessutom har vårt tillvägagångssätt visat sig vara effektivt för många avancerade CNN-arkitekturer. Särskilt, på ILSCRC-2012, SFP minskar mer än 42% FLOPs på ResNet-101 med även 0,2% topp-5 noggrannhet förbättring, vilket har avancerat state-of-the-art. Kod finns tillgänglig för allmänheten på GitHub: https://github.com/he-y/softfilter-beskärning
I REF, Han et al. Föreslå en mjuk filterbeskärningsmetod som gör det möjligt att uppdatera de beskurna filtren under träningsförfarandet.
Soft Filter Pruning for Accelerating Deep Convolutional Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}