Neurala nätverk dominerar det moderna maskininlärningslandskapet, men deras utbildning och framgång lider fortfarande av känslighet för empiriska val av hyperparametrar såsom modellarkitektur, förlustfunktion och optimeringsalgoritm. I detta arbete presenterar vi populationsbaserad utbildning (PBT), en enkel asynkron optimeringsalgoritm som effektivt utnyttjar en fast beräkningsbudget för att gemensamt optimera en population av modeller och deras hyperparametrar för att maximera prestanda. Viktigt är att PBT upptäcker ett schema av hyperparameterinställningar snarare än att följa den allmänt suboptimala strategin att försöka hitta en enda fast uppsättning att använda för hela utbildningen. Med bara en liten modifiering till en typisk distribuerad hyperparameterträningsram möjliggör vår metod robust och tillförlitlig träning av modeller. Vi visar PBT:s effektivitet på djupt förstärkande inlärningsproblem, visar snabbare konvergens med väggur och högre slutprestanda hos agenser genom att optimera över en svit av hyperparametrar. Dessutom visar vi samma metod kan tillämpas på övervakad inlärning för maskinöversättning, där PBT används för att maximera BLEU-poäng direkt, och även för utbildning av Generativa Adversarial Networks för att maximera startpoängen för genererade bilder. I samtliga fall resulterar PBT i automatisk upptäckt av hyperparameterscheman och modellval vilket resulterar i stabil träning och bättre slutprestanda.
Inspirerad av befolkningsbaserad utbildning (PBT) REF, är förstärkningspolitiken sökproblem i PBA modelleras som en process av hyperparameter schema lärande.
Population Based Training of Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}