Nya framsteg i datorseende-i form av djupa neurala nätverk-har gjort det möjligt att fråga ökande volymer av videodata med hög noggrannhet. Men neural nätverk inference är beräknings dyrt i skala: tillämpa en state-of-the-art objekt detektor i realtid (dvs 30+ ramar per sekund) till en enda video kräver en $ 4000 GPU. Som svar, presenterar vi NOSCOPE, ett system för att fråga videor som kan minska kostnaden för neurala nätverksvideoanalys med upp till tre storleksordningar via inference-optimerad modellsökning. Med tanke på en målvideo, objekt för att upptäcka, och referens neurala nätverk, NOSCOPE söker automatiskt efter och tränar en sekvens, eller kaskad, av modeller som bevarar noggrannheten i referensnätverket men är specialiserad på målvideon och därför är mycket mindre beräkning dyrt. NOSCOPE kaskader två typer av modeller: specialiserade modeller som förbigår referensmodellens fulla generalitet men troget efterliknar dess beteende för målvideon och objektet; och skillnadsdetektorer som belyser tidsskillnader mellan ramar. Vi visar att den optimala kaskadarkitekturen skiljer sig åt mellan videor och objekt, så NOSCOPE använder en effektiv kostnadsbaserad optimering för att söka mellan modeller och kaskader. Med detta tillvägagångssätt, NOSCOPE uppnå två till tre storleksordningen hastighet-ups (265-15 500× realtid) på binära klassificeringsuppgifter över fast vinkel webbkamera och övervakningsvideo samtidigt upprätthålla noggrannhet inom 1-5% av toppmoderna neurala nätverk.
NoScope REF syftar till att minska beräkningskostnaden för videoanalysfrågor på servrar genom att utnyttja en specialiserad modell.
NoScope: Optimizing Neural Network Queries over Video at Scale
{'venue': None, 'journal': 'arXiv: Databases', 'mag_field_of_study': ['Computer Science']}