Djupa neurala nätverk har visat effektivitet i många utmanande uppgifter och visat sin starka förmåga att automatiskt lära sig bra funktion representation från rå input. Men det krävs fortfarande mycket mänsklig ansträngning för att utforma deras arkitektur. Tekniker för att automatiskt utforma neurala nätverk arkitekturer såsom förstärkning lärande baserade metoder nyligen visar lovande resultat i riktmärken. Dessa metoder utbildar dock fortfarande varje nätverk från grunden när man utforskar arkitekturutrymmet, vilket resulterar i extremt höga beräkningskostnader. I detta dokument föreslår vi en ny förstärkningsram för lärande för automatisk arkitekturdesign, där åtgärden är att öka nätverksdjupet eller lagerbredden baserat på den nuvarande nätverksarkitekturen med funktion bevarad. Som sådan kan de tidigare validerade nätverken återanvändas för ytterligare prospektering, vilket sparar en stor mängd beräkningskostnader. Experimenten på bildriktmärkets datauppsättningar har visat hur effektiv och effektiv vår föreslagna lösning är jämfört med befintliga automatiska arkitekturdesignmetoder.
Cai m.fl. REF: I detta dokument föreslås en förstärkningsram för inlärningssökning där åtgärden är att öka nätverkets djup eller lagerbredd baserat på den nuvarande nätverksarkitekturen samtidigt som funktionaliteten bevaras.
Reinforcement Learning for Architecture Search by Network Transformation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}