Vi studerar resursbegränsat online-inlärning, motiverat av problemet med villkorat-gren resultat förutsägelse i datorarkitektur. I synnerhet anser vi (parallell) tid och utrymmeseffektiva ensembleinlärare för online-inställningar, empiriskt visa fördelar liknande dem som visas tidigare för offline ensembler. Våra inlärningsalgoritmer är inspirerade av det tidigare publicerade "boosting by filtering" ramverket samt den offline Arc-x4 boosting-style algoritmen. Vi utbildar ensembler av online beslut träd med hjälp av en ny variant av ID4 online beslut träd algoritm som base inlärare, och visa empiriska resultat för både öka och baging-stil online ensemble metoder. Våra resultat utvärderar dessa metoder på både vår gren förutsägelse domän och online-varianter av tre välbekanta machine-learning riktmärken. Våra uppgifter rättfärdigar tre huvudanspråk. För det första visar vi empiriskt att våra utökningar till ID4 avsevärt förbättrar prestandan för enskilda träd och dessutom är avgörande för att uppnå prestandavinster i trädensembler. För det andra, våra resultat indikerar betydande förbättringar i prediktiv noggrannhet med ensemblestorlek för booster-stil algoritm. De baging algoritmer vi försökte visade dålig prestanda i förhållande till den öka-stil algoritm (men ändå förbättra på enskilda baselever). För det tredje visar vi att ensembler av små träd ofta kan överträffa stora enskilda träd med samma antal noder (och på liknande sätt överträffa mindre ensembler av större träd som använder samma totala antal noder). Detta gör online-boostring särskilt användbar i domäner som gren förutsägelse med snäva utrymme begränsningar (dvs. den tillgängliga real-estate på en mikroprocessor chip).
Dessutom, ett försök att bygga en online ensemble lärande ram bestående av små träd för att lösa problemet med hårdvara villkorlig gren förutsägelse diskuteras i REF.
Online Ensemble Learning: An Empirical Study
{'venue': 'Machine Learning', 'journal': 'Machine Learning', 'mag_field_of_study': ['Computer Science']}