Mobila visionsystem som smartphones, drönare och headset med förstärkt verklighet revolutionerar våra liv. Dessa system kör vanligtvis flera program samtidigt och deras tillgängliga resurser i drifttid är dynamiska på grund av händelser som att starta nya program, stänga befintliga program och programprioriterade ändringar. I detta dokument presenterar vi NestDNN, ett ramverk som tar hänsyn till dynamiken i runtime resurser för att möjliggöra resursaware multi-tenant on-vice djupinlärning för mobila visionssystem. NestDNN gör det möjligt för varje modell för djupinlärning att erbjuda flexibla resursaccuracy kompromisser. På runtime väljer den dynamiskt den optimala resurs-accuracy kompromissen för varje djupt lärande modell för att passa modellens resursefterfrågan till systemets tillgängliga runtime resurser. På så sätt utnyttjar NestDNN effektivt de begränsade resurserna i mobila visionssystem för att gemensamt maximera prestandan för alla samtidigt löpande applikationer. Våra experiment visar att jämfört med resurs-agnostic status quo metod, NestDNN uppnår så mycket som 4,2% ökning av inference noggrannhet, 2,0× ökning av videoram bearbetningshastighet och 1,7× minskning av energiförbrukningen.
NestDNN REF erbjuder flexibla resurs-accuracy kompromisser genom att häcka några modeller med olika resurs-accuracy kompromisser i en enda modell och välja en optimal modell i körtid.
NestDNN: Resource-Aware Multi-Tenant On-Device Deep Learning for Continuous Mobile Vision
{'venue': 'Fang, Biyi, Xiao Zeng, and Mi Zhang."NestDNN: Resource-Aware Multi-Tenant On-Device Deep Learning for Continuous Mobile Vision."Proceedings of the 24th Annual International Conference on Mobile Computing and Networking. ACM, 2018', 'journal': None, 'mag_field_of_study': ['Computer Science']}