Abstrakt. I samband med klassificeringsproblem kan algoritmer som genererar multivariata träd utforska flera representationsspråk genom att använda beslutstester baserade på en kombination av attribut. I regressionsinställningen, modell träd algoritmer utforska flera representationsspråk men med hjälp av linjära modeller vid blad noder. I detta arbete studerar vi effekterna av att använda kombinationer av attribut vid beslut noder, blad noder, eller både noder och blad i regression och klassificering träd inlärning. För att studera användningen av funktionella noder på olika platser och för olika typer av modellering, introducerar vi en enkel enhetlig ram för multivariat trädinlärning. Detta ramverk kombinerar ett unikt beslutsträd med en linjär funktion genom konstruktiv induktion. Beslut träd som härrör från ramen kan använda beslut noder med multivariata tester, och blad noder som gör förutsägelser med linjära funktioner. Multivariata beslut noder byggs när trädet växer, medan funktionella blad byggs när beskärning trädet. Vi utvärderar experimentellt ett univariat träd, ett multivariatträd med linjära kombinationer vid inre och bladknutor, och två förenklade versioner som begränsar linjära kombinationer till inre noder och blad. Den experimentella utvärderingen visar att alla funktionella trädvarianter uppvisar liknande prestanda, med fördelar i olika datauppsättningar. I denna studie finns en marginell fördel med den fullständiga modellen. Dessa resultat leder oss att studera rollen av funktionella blad och noder. Vi använder förvrängningen av fel, klusteranalys och inlärningskurvor som verktyg för analys. Vi observerar att i de dataset under studie och för klassificering och regression, användningen av multivariata beslut noder har mer effekt i bias komponenten av felet, medan användningen av multivariata beslut blad har mer effekt i varianskomponenten.
Till exempel, multivariata träd utvidgas för att tillåta samtidig användning av funktionella inre och blad noder för att fatta ett beslut i REF.
Functional Trees
{'venue': 'Machine Learning', 'journal': 'Machine Learning', 'mag_field_of_study': ['Computer Science', 'Mathematics']}