Begreppet villkorlig beräkning av djupnät har tidigare föreslagits för att förbättra modellens prestanda genom att endast använda delar av den modell som den bearbetar. I detta dokument undersöker vi input-beroende dynamiskt filterval i djupa konvolutionella neurala nätverk (CNN). Problemet är intressant eftersom tanken på att tvinga olika delar av modellen att lära sig från olika typer av prover kan hjälpa oss att förvärva bättre filter i CNNs, förbättra modellen generalisering prestanda och potentiellt öka tolkningen av modellens beteende. Vi föreslår en ny men ändå enkel ram som kallas GaterNet, som innebär en ryggrad och ett gater nätverk. Stomnät är en vanlig CNN som utför den stora beräkning som krävs för att göra en förutsägelse, medan ett globalt gater nätverk införs för att generera binära grindar för selektivt aktivera filter i stamnätet baserat på varje inmatning. Omfattande experiment på CIFAR och ImageNet dataset visar att våra modeller konsekvent överträffar originalmodellerna med stor marginal. På CIFAR-10 förbättras även vår modell med toppmoderna resultat.
På senare tid har REF undersökt indataberoende dynamiska filterval.
GaterNet: Dynamic Filter Selection in Convolutional Neural Network via a Dedicated Global Gating Network.
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}