Vi studerar problemet med gleshet begränsad M-skattning med godtycklig korruption till både förklarande och svarsvariabler i den högdimensionella regimen, där antalet variabler d är större än provet storlek n. Vårt huvudsakliga bidrag är en mycket effektiv gradient-baserad optimering algoritm som vi kallar Trimmed Hard Thresholding - en robust variant av Iterative Hard Thresholding (IHT) genom att använda trimmad medelvärde i gradient beräkningar. Vår algoritm kan hantera en bred klass av gleshet begränsade M - estimering problem, och vi kan tolerera en nästan dimension oberoende bråkdel av godtyckligt korrumperade prover. Mer specifikt, när den skadade fraktionen uppfyller 1/ ε k log(nd), där k är glesheten av parametern, vi få exakt uppskattning och modell urval garantier med optimal urval komplexitet. Dessutom utökar vi vår algoritm till sparse Gaussian grafisk modell (precisionsmatris) uppskattning via ett område urval tillvägagångssätt. Vi demonstrerar effektiviteten av robust uppskattning i gles linjär, logistisk regression, och gles precisionsmatris uppskattning på syntetiska och verkliga amerikanska aktier data.
Mycket nyligen ansåg REF mer allmän gleshet begränsas M - estimering genom att använda en trimmad estimator i varje steg av lutning nedstigning, men robusthet garanti = O(1/ ε k) är fortfarande suboptimal.
High Dimensional Robust Estimation of Sparse Models via Trimmed Hard Thresholding
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}