Observera Detta dokument är för närvarande under övervägande på Mönsterigenkänningsbrev. Djupa Residual Networks har nått den senaste tekniken i många bildbehandlingsuppgifter sådan bildklassificering. Kostnaden för en vinst i exakthet i fråga om djup och minne är dock oöverkomlig eftersom det kräver ett högre antal restblock, upp till dubbla det ursprungliga värdet. För att ta itu med detta problem föreslår vi i detta dokument ett sätt att minska den överflödiga informationen om nätverken. Vi delar vikterna i de konvolutionella skikten mellan restblock som arbetar i samma rumsliga skala. Signalen flödar flera gånger i samma konvolutionella lager. Den resulterande arkitekturen, kallad ShaResNet, innehåller blockspecifika lager och delade lager. Dessa ShaResNet utbildas exakt på samma sätt som de allmänt använda kvarvarande nätverk. Vi visar å ena sidan att de är nästan lika effektiva som sina sekventiella motsvarigheter samtidigt som de omfattar mindre parametrar, och å andra sidan att de är effektivare än ett resterande nät med samma antal parametrar. Till exempel kan ett -lagerdjupt resterande nät reduceras till konvolutionsskikt, dvs. en parametervinst på % och mindre än. % noggrannhet på ImageNet.
ShaResNet REF delar vikterna av konvolutionella lager mellan restblock inom ett steg.
ShaResNet: reducing residual network parameter number by sharing weights
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}