Feature val involes identifiera den mest relevanta delmängd av indata funktioner, i syfte att förbättra generaliseringen av prediktiva modeller genom att minska övermontering. Att direkt söka efter den mest relevanta kombinationen av attribut är NP-hård. Variabelt urval är av avgörande betydelse i många tillämpningar, såsom mikroarray dataanalys, där välja ett litet antal diskriminerande egenskaper är avgörande för att utveckla användbara modeller av sjukdomsmekanismer, samt för att prioritera mål för läkemedelsupptäckt. I detta papper använder vi mycket nya resultat i maskininlärning för att utveckla en ny funktion urvalsstrategi. Den nyligen föreslagna Minimal Complexity Machine (MCM) ger ett sätt att lära sig en hyperplane clasfier genom att minimera en exakt (-) bunden på dess VC dimension. Det är välkänt att en lägre VC-dimension bidrar till god generalisering. Experimentella resultat visar att MCM lär sig mycket glesa representationer; på många datauppsättningar ger kärnan MCM jämförbara eller bättre testuppsättningar noggrannhet samtidigt som man använder mindre än en tiondel av antalet stödvektorer. För en linjär hyperplane klassificerare i ingångsutrymmet är VC-dimensionen övre begränsad av antalet funktioner; därför är en linjär klassificeringsgivare med en liten VC-dimension parsimonisk i den uppsättning funktioner som den använder. I detta papper använder vi den linjära MCM för att lära sig en klassificering där ett stort antal vikter är noll; funktioner
I REF presenteras en funktionsvalsmetod baserad på minimering av en snäv gräns för VC-dimensionen.
Feature Selection through Minimization of the VC dimension
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}