Bayesian optimering (BO) är en global optimeringsstrategi utformad för att hitta det minsta av en dyr svart-box funktion, typiskt definieras på en kontinuerlig delmängd av R d, genom att använda en Gaussian process (GP) som en surrogat modell för målet. Även om för närvarande tillgängliga förvärv funktioner uppfyller detta mål med olika grad av framgång, en överexploration effekt av konturen av sökområdet observeras normalt. Men i problem som konfigurationen av maskininlärningsalgoritmer, funktionen domänen är konservativt stor och med en hög sannolikhet det globala minimum inte sitter gränsen. Vi föreslår en metod för att införliva denna kunskap i sökprocessen genom att lägga till virtuella derivata observationer i GP vid gränserna för sökområdet. Vi använder egenskaperna hos GPs för att ställa villkor på partiella derivat av målet. Metoden är tillämplig på alla förvärvsfunktioner, den är enkel att använda och minskar konsekvent antalet utvärderingar som krävs för att optimera målet oavsett vilket förvärv som används. Vi illustrerar fördelarna med vårt tillvägagångssätt i en omfattande experimentell jämförelse.
Siivola m.fl. I REF angavs att det globala optimala är osannolikt att ligga i sökområdets gräns och föreslog att man skulle övervinna överexplorationen på gränsen genom att placera virtuella derivattecken ('+' eller '-') på gränsen.
Correcting boundary over-exploration deficiencies in Bayesian optimization with virtual derivative sign observations
{'venue': '2018 IEEE 28th International Workshop on Machine Learning for Signal Processing (MLSP)', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}