Abstract-Lasso, eller `1 legaliserade minst kvadrater, har undersökts i stor utsträckning för sina anmärkningsvärda gleshet egenskaper. I detta papper visas att lösningen till Lasso, förutom sin sparsamhet, har robusthet egenskaper: det är lösningen på ett robust optimeringsproblem. Detta får två viktiga konsekvenser. För det första ger robustheten en koppling mellan regularizern och en fysisk egenskap, nämligen bullerskydd. Detta möjliggör ett principiellt urval av regularizern, och i synnerhet generaliseringar av Lasso som också ger konvexa optimeringsproblem erhålls genom att överväga olika osäkerhetsuppsättningar. För det andra kan robusthet i sig användas som en väg för att utforska olika egenskaper hos lösningen. Det visas särskilt att lösningens robusthet förklarar varför lösningen är gles. Analysen och de specifika resultat som erhållits skiljer sig från standard resultat sparsamhet, vilket ger olika geometrisk intuition. Dessutom visas det att den robusta optimeringsformuleringen är relaterad till kärndensitetsuppskattning, och baserat på detta tillvägagångssätt, ett bevis på att Lasso är konsekvent ges, med användning av robusthet direkt. Slutligen bevisas ett teorem som säger att sparsamhet och algoritmisk stabilitet motsäger varandra, och Lasso är därför inte stabil.
Till exempel visar REF att man använder Lasso (dvs. 1 legalisering) i en linjär regressionsmodell motsvarar ett robust optimeringsproblem.
Robust Regression and Lasso
{'venue': 'IEEE Transactions on Information Theory', 'journal': 'IEEE Transactions on Information Theory', 'mag_field_of_study': ['Mathematics', 'Computer Science']}