Vi studerar trendfiltrering, ett nyligen föreslaget verktyg av Kim et al. [SIAM Upp. 51 (2009) för icke-parametrisk regression. Den trendfiltrering uppskattning definieras som minimeraren av en straffad minst kvadratkriterium, där strafftermen summerar den absoluta kth order diskreta derivat över inmatningspunkter. Kanske inte förvånande, trendfiltrering uppskattningar verkar ha strukturen av kth grad spline funktioner, med adaptivt valda knutpunkter (vi säger "uppträder" här som trendfiltrering uppskattningar är inte riktigt funktioner över kontinuerliga domäner, och definieras endast över den diskreta uppsättningen ingångar). Detta för tankarna till jämförelser med andra icke-parametriska regressionsverktyg som också producerar adaptiva splines; i synnerhet, vi jämför trendfiltrering till utjämning splines, som straffar summan av kvadratderivat över inmatningspunkter, och till lokalt adaptiv regression splines [Ann. Statistikant. 25 (1997) 387-413] som straffar den totala variationen av kth-derivatan. Empiriskt upptäcker vi att uppskattningar av trendfiltrering anpassar sig till den lokala jämnheten mycket bättre än att jämna ut splines, och dessutom uppvisar de en anmärkningsvärd likhet med lokalt adaptiva regressionsplinor. Vi ger också teoretiskt stöd för dessa empiriska fynd; framför allt bevisar vi att (med rätt val av inställningsparameter) trendfiltreringsberäkningen konvergerar till den verkliga underliggande funktionen vid minimax-hastigheten för funktioner vars kth-derivat är av begränsad variation. Detta görs genom en asymptotisk parning av trendfiltrering och lokalt adaptiva regressionssplines, som redan har visat sig konvergera vid minimax-hastigheten [Ann. Statistikant. 25 (1997) 387-413]. Kärnan i detta argument är ett nytt resultat som binder ihop de monterade värdena för två lasso problem som delar samma resultat vektor, men har olika prediktormatriser.
I själva verket, som diskuteras av REF, trend filtrering uppskattning i konstant eller bitvis-linjärt fall är exakt samma som adaptiv spline uppskattning.
Adaptive piecewise polynomial estimation via trend filtering
{'venue': 'Annals of Statistics 2014, Vol. 42, No. 1, 285-323', 'journal': None, 'mag_field_of_study': ['Mathematics']}