Abstrakt. Detta arbete föreslår en algoritm, kallad NetAdapt, som automatiskt anpassar ett förtränat djupt neuralt nätverk till en mobil plattform med en resursbudget. Medan många befintliga algoritmer förenklar nätverk baserat på antalet MACs eller vikter, optimerar dessa indirekta mätvärden inte nödvändigtvis minska de direkta mätvärdena, såsom latens och energiförbrukning. För att lösa detta problem, NetAdapt införlivar direkta mätvärden i sin anpassningsalgoritm. Dessa direkta mätvärden utvärderas med hjälp av empiriska mätningar, så att detaljerad kunskap om plattformen och verktygskedjan inte krävs. NetAdapt förenklar automatiskt och gradvis ett förskolat nätverk tills resursbudgeten har uppnåtts samtidigt som noggrannheten maximeras. Experimentella resultat visar att NetAdapt uppnår bättre noggrannhet jämfört med latency kompromisser på både mobil CPU och mobil GPU, jämfört med toppmoderna automatiserade nätverksförenkling algoritmer. För bildklassificering på ImageNet-datasetet uppnår NetAdapt upp till en 1,7× hastighetsökning i uppmätt inference latens med lika stor eller högre noggrannhet på MobileNets (V1&V2).
NetAdapt Ref föreslår en iterativ process för att komprimera ett förtränat CNN genom att minska antalet kanaler och använda empiriska mätningar på en målplattform.
NetAdapt: Platform-Aware Neural Network Adaptation for Mobile Applications
{'venue': 'ECCV', 'journal': None, 'mag_field_of_study': ['Computer Science']}