I detta dokument presenterar vi en djup neural nätverk topologi som innehåller en enkel att genomföra transformationsinvariant pooling operatör (TI-POOLING). Denna operatör kan effektivt hantera förkunskaper om störningsvariationer i data, t.ex. rotation eller skalförändringar. De flesta nuvarande metoder använder sig vanligtvis av datauppsättningsförstärkning för att ta itu med detta problem, men detta kräver ett större antal modellparametrar och mer träningsdata, och resulterar i betydligt ökad utbildningstid och större risk för under- eller övermontering. Den främsta orsaken till dessa nackdelar är att den lärda modellen måste fånga upp lämpliga funktioner för alla möjliga omvandlingar av inmatningen. Å andra sidan formulerar vi funktioner i konvolutionella neurala nätverk för att vara transformation-invariant. Vi uppnår att använda parallella siamesiska arkitekturer för den ansedda transformationsuppsättningen och tillämpa TI-POOLING operatören på sina utgångar innan de fullt anslutna skikten. Vi visar att denna topologi internt finner den mest optimala "kanoniska" instansen av ingångsbilden för träning och begränsar därmed redundansen i inlärda funktioner. Denna effektivare användning av träningsdata resulterar i bättre prestanda på populära referensdatauppsättningar med mindre antal parametrar vid jämförelse med standardiserade konvolutionella neurala nätverk med datauppsättningsförstärkning och med andra baslinjer.
TI-POOLING REF introducerade transformation invariance i ett neuralt nätverk med hjälp av "multiple assessment learning" (MIL) och pooling operator tillsammans.
TI-POOLING: Transformation-Invariant Pooling for Feature Learning in Convolutional Neural Networks
{'venue': '2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)', 'journal': '2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)', 'mag_field_of_study': ['Computer Science']}