En-shot metod [2] är en kraftfull Neural Architecture Search (NAS) ram, men dess utbildning är icke-trivial och det är svårt att uppnå konkurrenskraftiga resultat på storskaliga dataset som ImageNet. I detta arbete föreslår vi en enkelspårig modell för att ta itu med den största utmaningen i utbildningen. Vår centrala idé är att konstruera ett förenklat supernät, Single Path Supernet, som tränas genom en enhetlig metod för vägprovtagning. Alla underliggande arkitekturer (och deras vikter) tränas fullt ut och lika. När vi väl har ett utbildat supernät använder vi en evolutionär algoritm för att effektivt söka igenom de bäst presterande arkitekturerna utan någon finjustering. Omfattande experiment verifierar att vår strategi är flexibel och effektiv. Det är lätt att träna och snabbt att söka. Den stöder utan ansträngning komplexa sökytor (t.ex., byggstenar, kanal, blandad kvantisering) och olika sökbegränsningar (t.ex., FLOPs, latens). Det är därför bekvämt att använda för olika behov. Det uppnår start-of-the-art prestanda på den stora datauppsättningen ImageNet.
REF föreslog en enda sökväg supernet för att optimera alla arkitekturer i sökutrymmet samtidigt, och sedan utföra evolutionär arkitektur sökning för att hantera beräkningsbegränsningar.
Single Path One-Shot Neural Architecture Search with Uniform Sampling
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}