Framväxten av allmänt förekommande källor för strömmande data har gett upphov till populariteten av algoritmer för online maskininlärning. I detta sammanhang representerar Hoeffding-träd de senaste algoritmerna för onlineklassificering. Deras popularitet beror till stor del på deras förmåga att bearbeta stora mängder data med en hastighet som går utöver bearbetningskraften hos någon annan streaming eller batch lärande algoritm. Som en följd av detta har Hoeffding träd ofta använts som basmodeller av många ensemble lärande algoritmer för online klassificering. Men trots förekomsten av många algoritmer för online klassificering, ensemble lärande algoritmer för online regression finns inte. Särskilt när det gäller online-regressionsanalys när som helst verkar ha upplevt en allvarlig brist på uppmärksamhet. I detta dokument behandlar vi denna fråga genom en studie och en empirisk utvärdering av en uppsättning online-algoritmer för regression, som inkluderar baslinje Hoeffding-baserade regression träd, online alternativ träd, och en online minst genomsnittliga kvadratfilter. Vi designar, implementerar och utvärderar också två nya ensembleinlärningsmetoder för online regression: online baging med Hoeffding-baserade modellträd, och en online RandomForest metod där vi har använt en randomiserad version av online modellen trädinlärning algoritm som en grundläggande byggsten. I den studie som presenteras i denna rapport utvärderar vi de föreslagna algoritmerna längs flera dimensioner: prediktiv noggrannhet och kvalitet på modeller, tids- och minneskrav, bias-varians och bias-variant-covariance nedbrytning av felet, och lyhördhet för konceptdrift.
I allmänhet kan vi säga att regressionsuppgifter i SL inte har fått lika mycket uppmärksamhet som klassificeringsuppgifter, och detta belystes i REF, där forskare genomförde en studie och en empirisk utvärdering av en uppsättning online-algoritmer för regression, som inkluderar baslinje Hoeffding-baserade regression träd, online alternativ träd, och en online minst genomsnittliga kvadratfilter.
Online tree-based ensembles and option trees for regression on evolving data streams
{'venue': 'Neurocomputing', 'journal': 'Neurocomputing', 'mag_field_of_study': ['Computer Science']}