Sparse kodning består i att representera signaler som glesa linjära kombinationer av atomer utvalda från en ordbok. Vi överväger en förlängning av denna ram där atomerna vidare antas vara inbäddade i ett träd. Detta uppnås med hjälp av en nyligen införd trädstrukturerad gles regelregleringsnorm, som har visat sig användbar i flera tillämpningar. Denna norm leder till legaliserade problem som är svåra att optimera, och i detta dokument föreslår vi effektiva algoritmer för att lösa dem. Mer exakt visar vi att den proximala operatör som är förknippad med denna norm kan beräknas exakt via en dubbel metod som kan ses som sammansättningen av elementära proximala operatörer. Vårt förfarande har en komplexitet linjär, eller nära linjär, i antalet atomer, och gör det möjligt att använda accelererad lutning tekniker för att lösa det trädstrukturerade glest approximationsproblem till samma beräkningskostnad som traditionella som använder l 1 -norm. Vår metod är effektiv och skalor graciöst till miljontals variabler, som vi illustrerar i två typer av tillämpningar: för det första anser vi fasta hierarkiska ordböcker av wavelets för att denoise naturliga bilder. Sedan använder vi våra optimeringsverktyg i samband med ordlista lärande, där inlärda ordlista element naturligt självorganisera i en förspecificerad armorescent struktur, vilket leder till bättre prestanda i återuppbyggnad av naturliga bild fläckar. När den tillämpas på textdokument lär sig vår metod hierarkier av ämnen, vilket ger ett konkurrenskraftigt alternativ till probabilistiska ämnesmodeller.
REF tillämpar sparsamt hierarkiskt lexikon för att lära sig hierarkier av ämnen från en corpora av NIPS proceedings papers.
Proximal Methods for Hierarchical Sparse Coding
{'venue': 'Journal of Machine Learning Research, 12 (2011) 2297-2334', 'journal': None, 'mag_field_of_study': ['Mathematics', 'Computer Science']}