Detta dokument behandlar skalbarhetsutmaningen i arkitektursökningen genom att formulera uppgiften på ett annorlunda sätt. Till skillnad från konventionella metoder för att tillämpa evolution eller förstärka lärande över en diskret och icke-differentiable sökutrymme, är vår metod baserad på kontinuerlig avslappning av arkitektur representationen, vilket möjliggör effektiv sökning av arkitekturen med lutning nedstigning. Omfattande experiment på CIFAR-10, ImageNet, Penn Treebank och WikiText-2 visar att vår algoritm utmärker sig i att upptäcka högpresterande konvolutionella arkitekturer för bildklassificering och återkommande arkitekturer för språkmodellering, samtidigt som de är storleksordningar snabbare än toppmoderna icke-differentierbara tekniker.
Liu m.fl. REF föreslår DARTS, vilket möjliggör effektiv sökning av arkitekturen med lutning nedstigning.
DARTS: Differentiable Architecture Search
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}