Abstract-En populär metod inom signalbehandling och maskininlärning samhällen består av modellering signaler som gles linjära kombinationer av atomer utvalda från en lärd ordbok. Även om detta paradigm har lett till många empiriska framgångar inom olika områden, från bild till ljudbehandling, har det bara funnits några få teoretiska argument som stöder dessa bevis. I synnerhet, sparsam kodning, eller gles ordbok lärande, bygger på en icke-konvex procedur vars lokala minima inte har analyserats helt ännu. I den här artikeln betraktar vi en probabilistisk modell av glesa signaler och visar att sparsam kodning med stor sannolikhet medger ett lokalt minimum runt referensordboken som genererar signalerna. Detta dokument behandlar fallet med över-fullständiga ordböcker, bullriga signaler och möjliga avvikelser, vilket utvidgar det tidigare arbetet begränsat till ljudlösa inställningar och / eller under-fullständiga ordböcker. Den analys vi gör är icke-asymptotisk och gör det möjligt att förstå hur de viktigaste mängderna av problemet, såsom samstämmigheten eller bullernivån, kan skala med avseende på signalernas dimension, antalet atomer, glesheten och antalet observationer.
Dictionary learning består av modellering av signaler som glesa linjära kombinationer av atomer utvalda från en lärd ordbok REF.
Sparse and Spurious: Dictionary Learning With Noise and Outliers