Detta papper presenterar en effektiv modul som heter rumslig flaskhals för att accelerera de konvolutionella skikten i djupa neurala nätverk. Kärnan tanken är att dekomponera konvolution i två steg, som först minskar den rumsliga upplösningen på funktionskartan, och sedan återställa den till önskad storlek. Denna operation minskar provtagningstätheten i den rumsliga domänen, som är oberoende men ändå kompletterar nätverksaccelerationen i kanaldomänen. Med hjälp av olika provtagningsfrekvenser kan vi byta mellan igenkänningsnoggrannhet och modellkomplexitet. Som ett grundläggande byggblock kan den rumsliga flaskhalsen användas för att ersätta varje enskilt konvolutionsskikt, eller en kombination av två konvolutionslager. Vi kontrollerar empiriskt effektiviteten i den rumsliga flaskhalsen genom att tillämpa den på de djupa kvarvarande nätverken. Spatial flaskhals uppnår 2× och 1,4× speedup på de vanliga och kanal-knapphalsade restblock, respektive, med de noggrannheter som behålls i att känna igen bilder med låg upplösning, och även förbättras i att känna igen högupplösta bilder.
Nyligen föreslår Ref en enklare rumslig moduldesign för att ersätta ett enda konvolutionsskikt och påskynda motsvarande konvolutionsoperationer.
Accelerating Deep Neural Networks with Spatial Bottleneck Modules
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}