I detta papper utforskar vi optimeringar för att köra Recurrent Neural Network (RNN) modeller lokalt på mobila enheter. RNN-modeller används i stor utsträckning för naturlig språkbehandling, maskinöversättning och andra uppgifter. Befintliga mobila applikationer som använder RNN-modeller gör det dock på molnet. För att ta itu med integritets- och effektivitetsfrågor visar vi hur RNN-modeller kan köras lokalt på mobila enheter. Befintligt arbete med att överföra djupinlärningsmodeller till mobila enheter fokuserar på Convolution Neural Networks (CNN) och kan inte tillämpas direkt på RNN-modeller. Som svar presenterar vi MobiRNN, ett mobilspecifikt optimeringsramverk som implementerar GPU-avlastning specifikt för mobila GPU:er. Utvärderingar med hjälp av en RNN-modell för aktivitetsigenkänning visar att MobiRNN avsevärt minskar latensen för att köra RNN-modeller på telefoner.
Författarna till REF utforskade optimeringar för att köra recidiverande neurala nätverk (RNN) modeller lokalt på mobila enheter för aktivitetsigenkänning.
MobiRNN: Efficient Recurrent Neural Network Execution on Mobile GPU
{'venue': "EMDL '17", 'journal': None, 'mag_field_of_study': ['Computer Science']}