Denna artikel visar ett samband mellan två olika approximeringsmetoder: stödvektormaskinerna (SVM), som föreslås av V. Vapnik (1995) och ett sparsamt approximeringssystem som liknar den grundläggande jakten på denoiserande algoritm (Chen, 1995; Chen, Donoho, & Saunders, 1995). SVM är en teknik som kan härledas från den strukturella riskminimeringsprincipen (Vapnik, 1982) och kan användas för att uppskatta parametrarna för flera olika approximationssystem, inklusive radiala basfunktioner, algebraiska och trigonometriska polynom, B-splines, och vissa former av flerskiktsperceptroner. Grundjakt denoisering är en gles approximation teknik där en funktion rekonstrueras genom att använda ett litet antal basfunktioner som väljs från en stor uppsättning (ordboken). Vi visar att om datan är ljudlös, är den modifierade versionen av grundjaktens denoisering som föreslås i denna artikel likvärdig med SVM i följande mening: om den tillämpas på samma datamängd, ger de två teknikerna samma lösning, som erhålls genom att lösa samma quadratic programmeringsproblem. I bilagan presenterar vi en härledning av SVM-tekniken inom ramen för legaliseringsteori, snarare än statistisk inlärningsteori, som etablerar ett samband mellan SVM, gles approximation och regulariseringsteori.
Girosi REF föreslog sparsam approximation av stödvektor maskin (SVM).
An Equivalence Between Sparse Approximation and Support Vector Machines
{'venue': 'Neural Computation', 'journal': 'Neural Computation', 'mag_field_of_study': ['Mathematics', 'Medicine', 'Computer Science']}