Mycket djupa konvolutionella neurala nätverk (CNN) ger toppmoderna resultat på en mängd olika visuella igenkänningsproblem. Ett antal toppmoderna metoder för bildigenkänning är baserade på nätverk med långt över 100 lager och prestandan vs. djup trend rör sig mot nätverk som överstiger 1000 lager. I sådana extremt djupa arkitekturer blir det försvinnande eller exploderande gradientproblemet en nyckelfråga. Nya rön tyder också på att konvolutionsnätverk skulle kunna dra nytta av ett gränssnitt till uttryckligen konstruerade minnesmekanismer som interagerar med en CNN-funktionsbearbetningshierarki. På motsvarande sätt föreslår och utvärderar vi en minnesmekanism förstärkt konvolutionell neurala nätverksarkitektur baserad på förstärkning av konvolutionella kvarvarande nätverk med en långsiktig minnesmekanism. Vi hänvisar till detta som ett konvolutionellt minnesnätverk. Såvitt vi vet kan detta tillvägagångssätt ge toppmoderna resultat på CIFAR-100-riktmärket och jämföra väl med andra toppmoderna tekniker på CIFAR-10- och SVHN-riktmärkena. Detta uppnås med hjälp av nätverk med mer bredd, mycket mindre djup och mycket mindre total beräkning i förhållande till jämförbara djupa ResNets utan minnesmekanismen. Våra experiment och analyser utforskar vikten av minnesmekanismen, nätverksdjupet, bredden och prediktiva prestanda.
Convolutional Residual Memory Networks REF föreslår en arkitektur som kombinerar ett convolutional Residual Network med en LSTM-minnesmekanism.
Convolutional Residual Memory Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}