För att uppnå dynamisk slutledning i pixelmärkningsuppgifter föreslår vi Pixel-wise Attentional Gating (PAG), som lär sig att selektivt bearbeta en delmängd av rumsliga platser på varje lager av ett djupt konvolutionsnätverk. PAG är en generisk, arkitekturoberoende, problemagnostisk mekanism som enkelt kan "anslutas" till en befintlig modell med finjustering. Vi använder PAG på två sätt: 1) lära sig rumsligt varierande pooling fält som förbättrar modellens prestanda utan extra beräkningskostnader i samband med multi-scale pooling, och 2) lära sig en dynamisk beräkningspolicy för varje pixel för att minska total beräkning (FLOPs) samtidigt som noggrannheten bibehålls. Vi utvärderar utförligt PAG på en mängd olika märkningsuppgifter per pixel, inklusive semantisk segmentering, gränsdetektering, monokulärt djup och normal uppskattning av ytan. Vi visar att PAG möjliggör konkurrenskraftiga eller toppmoderna resultat för dessa uppgifter. Våra experiment visar att PAG lär sig dynamisk rumslig fördelning av beräkning över indatabilden vilket ger bättre prestanda kompromisser jämfört med relaterade metoder (t.ex. trunkering djupa modeller eller dynamiskt hoppa över hela lager). Generellt sett observerar vi PAG kan minska beräkningen med 10% utan märkbar förlust i noggrannhet och prestanda försämrar graciöst när man inför starkare beräkningsbegränsningar.
Kong m.fl. REF presenterade en pixelvis uppmärksamhetsenhet för att lära sig rumslig fördelning av beräkningar i täta märkningsuppgifter.
Pixel-wise Attentional Gating for Parsimonious Pixel Labeling
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}