Vi föreslår en ny djup nätverksstruktur som kallas "Network In Network" (NIN) för att förbättra modellens diskriminabilitet för lokala patchar inom det mottagliga fältet. Det konventionella konvolutionslagret använder linjära filter följt av en icke-linjär aktiveringsfunktion för att skanna indatan. Istället bygger vi mikroneurala nätverk med mer komplexa strukturer för att abstraktera data inom det mottagliga fältet. Vi omedelbart mikroneurala nätverket med en multilager perceptron, som är en potent funktion approximator. Funktionskartor erhålls genom att flytta mikronätverken över inmatningen på ett liknande sätt som CNN; de matas sedan in i nästa lager. Djup NIN kan genomföras genom stapling mutiple av ovan beskrivna struktur. Med förbättrad lokal modellering via mikronätet kan vi utnyttja global genomsnittlig poolning över funktionskartor i klassificeringsskiktet, vilket är lättare att tolka och mindre benägna att översitta än traditionella fullt anslutna lager. Vi demonstrerade toppmoderna klassificeringsprestanda med NIN på CIFAR-10 och CIFAR-100 och rimliga prestanda på SVHN- och MNIST-datauppsättningar.
Vi börjar med Network In Networks REF, som beskriver ett hierarkiskt nätverk med en liten nätverksdesign upprepade gånger inbäddad i den övergripande arkitekturen.
Network In Network
{'venue': 'ICLR 2014', 'journal': 'arXiv: Neural and Evolutionary Computing', 'mag_field_of_study': ['Computer Science']}