Djupt lärande har blivit en allestädes närvarande teknik för att förbättra maskinintelligensen. De flesta av de befintliga djupgående modellerna är dock strukturellt mycket komplexa, vilket gör det svårt att använda dem på de mobila plattformarna med begränsad beräkningskraft. I detta dokument föreslår vi en ny nätkompressionsmetod som kallas dynamisk nätverkskirurgi, som på ett anmärkningsvärt sätt kan minska nätverkets komplexitet genom att göra anslutning beskärning på flyg. Till skillnad från de tidigare metoder som utför denna uppgift på ett girigt sätt, vi korrekt införliva anslutning skarvning i hela processen för att undvika felaktig beskärning och göra det som en kontinuerlig nätverksunderhåll. Vår metods effektivitet bevisas med experiment. Utan någon noggrannhet förlust, vår metod kan effektivt komprimera antalet parametrar i LeNet-5 och AlexNet med en faktor på 108× respektive 17,7×, visar att det överträffar den senaste beskärningsmetoden med betydande marginaler. Kod och vissa modeller finns på https://github.com/yiwenguo/Dynamic-Network-kirurgi.
Dynamisk nätverkskirurgi REF presenterade en idé om anslutning skarvning för att återställa felaktigt beskurna vikter från föregående steg.
Dynamic Network Surgery for Efficient DNNs
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}