Sparse kodning ger en klass av algoritmer för att hitta koncisa representationer av stimuli; med endast omärkta ingångsdata, upptäcker den basfunktioner som fångar högre nivå funktioner i data. Att hitta glesa koder är dock fortfarande ett mycket svårt beräkningsproblem. I detta papper presenterar vi effektiva glesa kodning algoritmer som bygger på iterativt lösa två konvexa optimeringsproblem: en L 1 -regulariserade minst kvadrat problem och en L 2 -konstruerade minst kvadrat problem. Vi föreslår nya algoritmer för att lösa båda dessa optimeringsproblem. Våra algoritmer resulterar i en betydande hastighetsökning för gles kodning, vilket gör att vi kan lära oss större glesa koder än möjligt med tidigare beskrivna algoritmer. Vi tillämpar dessa algoritmer på naturliga bilder och visar att de inferred sparse koderna uppvisar end-stopping och non-classical mottaglig fält surround suppression och, därför, kan ge en partiell förklaring till dessa två fenomen i V1-neuroner.
Den mest använda sparse kodningsmetoden föreslogs av Lee et al. REF, som bygger på att iterativt lösa ett'2 - befruktade minst fyrkantiga problem och'1 - regulariserade minst fyrkantiga problem.
Efficient sparse coding algorithms
{'venue': 'In NIPS', 'journal': None, 'mag_field_of_study': ['Computer Science']}