Vi beskriver en experimentell studie av beskärningsmetoder för beslut träd classi ers i två inlärningssituationer: minimera förlust och sannolikhetsuppskattning. Förutom de två vanligaste metoderna för felminimering, CART:s kostnadskomplexitet beskärning och C4.5:s felbaserad beskärning, studerar vi utvidgningen av kostnadskomplexitet beskärning till förlust och två beskärningsvarianter baserade på Laplace-korrigeringar. Vi gör en empirisk jämförelse av dessa metoder och utvärderar dem med avseende på följande tre kriterier: förlust, medel-kvadrat-terror (MSE) och log-förlust. Vi ger en bias-variance nedbrytning av MSE för att visa hur beskärning en ects bias och varians. Vi fann att tillämpningen av Laplace-korrigeringen för att uppskatta sannolikhetsfördelningen vid bladen var positiv till alla beskärningsmetoder, både för förlustminimering och för att uppskatta sannolikheter. Till skillnad från i felminimering, och något överraskande, att utföra ingen beskärning ledde till resultat som var i nivå med andra metoder i termer av utvärderingskriterier. Den största fördelen med beskärning var minskningen av beslutsträdets storlek, ibland med en faktor på 10. Även om ingen metod dominerade andra på alla datauppsättningar, även för samma domän di erent beskärningsmekanismer är bättre för olika förlustmatriser. Vi visar detta sista resultat med hjälp av receptionens operativa egenskaper (ROC) kurvor.
En experimentell studie för kostnadskomplex beskärning och C4.5 felbaserad beskärning som fokuserade på beskärning med förlustminimering och sannolikhetsuppskattning i stället för felminimering genomfördes i REF.
Pruning decision trees with misclassification costs
{'venue': 'ECML', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}