Vi utvidgar teorin om att öka för regressionsproblem till online inlärningsmiljö. Genom att generalisera från batch-inställningen för att öka, modelleras begreppet svag inlärningsalgoritm som en online-lärande algoritm med linjära förlustfunktioner som konkurrerar med en basklass av regressionsfunktioner, medan en stark inlärningsalgoritm är en online-lärande algoritm med konvexa förlustfunktioner som konkurrerar med en större klass regressionsfunktioner. Vårt huvudsakliga resultat är en online gradient öka algoritm som omvandlar en svag online lärande algoritm till en stark där den större klassen av funktioner är den linjära spännvidden av basklassen. Vi ger också en enklare boosteralgoritm som omvandlar en svag online-lärande algoritm till en stark där den större klassen av funktioner är den konvexa skrovet i basklassen, och visa sin optimalitet.
Den största skillnaden från vårt arbete är i den svaga inlärning antagande: REF överväga svaga inlärare som i själva verket är starka online inlärare för en basklass av regressionsfunktioner.
Online Gradient Boosting
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}