En ensemble består av en uppsättning individuellt utbildade klassifiatorer (t.ex. neurala nätverk eller beslutsträd) vars förutsägelser kombineras vid klassificering av nya fall. Tidigare forskning har visat att en ensemble ofta är mer exakt än någon av de enskilda klassificeringarna i ensemblen. Packning (Breiman, 1996c) och Boosting (Freund & Schapire, 1996; Schapire, 1990) är två relativt nya men populära metoder för att producera ensembler. I detta dokument utvärderar vi dessa metoder på 23 datamängder med hjälp av både neurala nätverk och beslutsträd som vår klassificeringsalgoritm. Våra resultat visar tydligt på ett antal slutsatser. För det första, medan förpackning nästan alltid är mer exakt än en enda klassificering, är det ibland mycket mindre exakt än Boosting. Å andra sidan, Boosting kan skapa ensembler som är mindre exakta än en enda klassificerare - särskilt när du använder neurala nätverk. Analysen visar att de förbättrade metodernas prestanda är beroende av egenskaperna hos den datamängd som undersöks. Faktum är att ytterligare resultat visar att Boosting ensembler kan överpassa bullriga datamängder, vilket minskar dess prestanda. Slutligen, i enlighet med tidigare studier, vårt arbete tyder på att det mesta av vinsten i en ensembles prestanda kommer i de första klassiatorerna tillsammans; dock, relativt stora vinster kan ses upp till 25 klassiatorer när Boosting beslut träd.
Maclin utvärderar paketering och boosting på 23 dataset med hjälp av både neurala nätverk och beslut träd som klassificeringsalgoritm REF.
Popular Ensemble Methods: An Empirical Study
{'venue': 'Journal Of Artificial Intelligence Research, Volume 11, pages 169-198, 1999', 'journal': None, 'mag_field_of_study': ['Computer Science']}