En av de mest tråkiga uppgifterna i tillämpningen av maskininlärning är modellval, d.v.s. Val av hyperparameter. Lyckligtvis har nyligen framsteg gjorts i automatiseringen av denna process, genom användning av sekventiella modellbaserade optimeringsmetoder (SMBO). Detta kan användas för att optimera en korsvalidering prestanda av en lärande algoritm över värdet av dess hyperparametrar. Det är emellertid välkänt att ensembler av lärda modeller nästan konsekvent överträffar en enda modell, även om den väljs på rätt sätt. I detta dokument föreslår vi därför en förlängning av SMBO-metoder som automatiskt konstruerar sådana ensembler. Denna metod bygger på en nyligen föreslagen ensemble konstruktion paradigm som kallas agnostic Bayesian lärande. I experiment på 22 regressions- och 39 klassificeringsdatamängder bekräftar vi framgången med detta föreslagna tillvägagångssätt, som kan överträffa modellurvalet med SMBO.
I samband med maskininlärning har denna metod använts för att automatiskt bygga ensembler av klassificerare av Lacoste et al., Ref.
Sequential Model-Based Ensemble Optimization
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}