Modellval av valideringsdata är ett viktigt steg i maskininlärning. Blandningen av data mellan utbildning och validering betraktas som tabu, men utövare bryter ofta mot den för att öka prestandan. Här erbjuder vi en enkel, praktisk metod för att använda valideringssetet för utbildning, vilket möjliggör en kontinuerlig, kontrollerad avvägning mellan prestanda och övermontering av modellval. Vi definierar begreppet on-genomsnittlig-validation-stabil algoritmer som en där användning av små delar av valideringsdata för utbildning inte överpassar modellen urvalsprocessen. Vi bevisar sedan att stabila algoritmer också är validering stabila. Slutligen demonstrerar vi vår metod på MNIST och CIFAR-10 datauppsättningar med hjälp av stabila algoritmer samt toppmoderna neurala nätverk. Våra resultat visar en betydande ökning av testprestandan med en mindre avvägning i partiskhet som godtas i modellurvalsprocessen.
Tåg på validering: I REF ) använder författarna delar av valideringsdatasetet för utbildning för att generera en stabil algoritm.
Train on Validation: Squeezing the Data Lemon
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}