Vi studerar prestandaegenskaper hos konvolutionella neurala nätverk (CNN) för mobila datorseende system. CNN har visat sig vara ett kraftfullt och effektivt sätt att genomföra sådana system. Systemets prestanda beror dock till stor del på utnyttjandet av hårdvaruacceleratorer, som kan påskynda utförandet av de underliggande matematiska operationer oerhört genom massiv parallellism. Vårt bidrag är prestandakarakterisering av flera CNN-baserade modeller för objektigenkänning och detektering med flera olika hårdvaruplattformar och programvaruramar, med hjälp av både lokal (on-device) och fjärr (nätverksserver) beräkning. Mätningarna utförs med hjälp av verkliga arbetsbelastningar och verkliga bearbetningsplattformar. På plattformssidan koncentrerar vi oss särskilt på TensorFlow och TensorRT. Våra mätningar inkluderar inbyggda processorer som finns på mobila enheter och högpresterande processorer som kan användas på nätverkssidan av mobila system. Vi visar att det finns betydande latency-genomströmning kompromisser men beteendet är mycket komplicerat. Vi demonstrerar och diskuterar flera faktorer som påverkar prestationen och ger detta komplexa beteende.
Hanhirova m.fl. REF-profil prestanda för flera CNN-baserade modeller för objektigenkänning och detektering på både inbyggda mobila processorer och högpresterande serverprocessorer.
Latency and throughput characterization of convolutional neural networks for mobile computer vision
{'venue': "MMSys '18", 'journal': None, 'mag_field_of_study': ['Computer Science']}