Abstract-Vi presenterar en analys av den lokalt konkurrenskraftiga Algoritm (LCA), en Hopfield-stil neurala nätverk som effektivt löser glesa approximationsproblem (t.ex., approximering av en vektor från en ordbok med bara några icke-noll koefficienter). Denna klass av problem spelar en viktig roll i både teorier om neural kodning och tillämpningar i signalbehandling. LCA saknar dock analys av sina konvergensegenskaper och tidigare resultat på neurala nätverk för icke-smooth optimering inte gäller för detaljerna i LCA-arkitekturen. Vi visar att LCA har önskvärda konvergensegenskaper, såsom stabilitet och global konvergens till den optimala objektiva funktionen när den är unik. Under vissa milda förhållanden, är stödet av lösningen också bevisat att uppnås i ändlig tid. Dessutom gör vissa begränsningar av de specifika problemen att vi kan karakterisera systemets konvergensgrad genom att visa att LCA konvergerar exponentiellt snabbt med en analytiskt begränsad konvergenssats. Vi stödjer vår analys med flera illustrativa simuleringar.
Den senaste tidens uppföljningsarbete I REF fastställs starkare garantier för LCA, vilket särskilt visar att detta system globalt konvergerar till ett minimum av E (vilket kan vara en lokal minima om C (·) inte är konvex) och visar att systemet konvergerar exponentiellt snabbt med en analytiskt begränsad konvergensgrad.
Convergence and Rate Analysis of Neural Networks for Sparse Approximation
{'venue': 'IEEE Trans. Neural Networks, vol. 23, no. 9, pp. 1377-1389, Sept. 2012', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics', 'Medicine']}