Med tillkomsten av automatiserad maskininlärning, automatiserade hyperparameteroptimeringsmetoder används nu rutinmässigt i data mining. Emellertid är detta framsteg ännu inte matchas av lika framsteg på automatiska analyser som ger information utöver prestandaoptimering hyperparameterinställningar. I detta arbete syftar vi till att besvara följande två frågor: Med tanke på en algoritm, vad är i allmänhet dess viktigaste hyperparametrar, och vad är typiskt bra värden för dessa? Vi presenterar metodik och ett ramverk för att besvara dessa frågor baserat på meta-lärande över många datauppsättningar. Vi tillämpar denna metod med hjälp av de experimentella meta-data som finns tillgängliga på OpenML för att bestämma de viktigaste hyperparametrarna för stöd vektor maskiner, slumpmässiga skogar och Adaboost, och för att dra slutsatser tidigare för alla sina hyperparametrar. Resultaten, som erhållits helt automatiskt, ger en kvantitativ grund för att fokusera på både manuell algoritmdesign och automatiserad hyperparameteroptimering. De utförda experimenten bekräftar att de hyperparametrar som valts enligt den föreslagna metoden verkligen är de viktigaste och att de erhållna tidigare också leder till statistiskt signifikanta förbättringar i hyperparameteroptimering.
van REF utvärderade slumpmässiga hyperparameterkonfigurationer på ett stort antal uppgifter för att lära sig tidigare för en vektormaskin, slumpmässig skog och Adaboost.
Hyperparameter Importance Across Datasets
{'venue': None, 'journal': 'Proceedings of the 24th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining', 'mag_field_of_study': ['Computer Science', 'Mathematics']}