Det djupa konvolutionella neurala nätverket (CNN) är den toppmoderna lösningen för storskalig visuell igenkänning. Efter några grundläggande principer som att öka nätdjupet och bygga motorvägsanslutningar, har forskare manuellt utformat en hel del fasta nätverksarkitekturer och verifierat deras effektivitet. I detta dokument diskuterar vi möjligheten att lära sig de djupa nätverksstrukturerna automatiskt. Observera att antalet möjliga nätverksstrukturer ökar exponentiellt med antalet lager i nätverket, vilket motiverar oss att anta den genetiska algoritmen för att effektivt utforska detta stora sökområde. Kärnidén är att föreslå en kodningsmetod för att representera varje nätverksstruktur i en binär sträng med fast längd. Den genetiska algoritmen initieras genom att generera en uppsättning randomiserade individer. I varje generation definierar vi standardgenetiska operationer, t.ex. urval, mutation och crossover, för att generera konkurrenskraftiga individer och eliminera svaga. Varje individs konkurrenskraft definieras som dess igenkänningsnoggrannhet, som erhålls genom en fristående utbildningsprocess på ett referensdataset. Vi kör den genetiska processen på CIFAR10, en småskalig datauppsättning, visar sin förmåga att hitta högkvalitativa strukturer som är lite studerade tidigare. De lärda kraftfulla strukturerna kan också överföras till ILSVRC2012-datasetet för storskalig visuell igenkänning. Det är värt att betona att den genetiska algoritmen är beräknings dyrt, eftersom vi måste genomgå en komplett nätverk utbildningsprocess för varje genererad individ. Vi antar strategin för att köra den genetiska processen på en liten datauppsättning (CIFAR10), där vi observerar förmågan hos den genetiska algoritmen att hitta effektiva nätverksstrukturer, och sedan överföra de inlärda topprankade strukturerna för att utföra storskalig visuell igenkänning. De lärda strukturerna, av vilka de flesta har varit mindre studerade tidigare, presterar ofta bättre än de manuellt utformade i antingen småskaliga eller storskaliga experiment. Resten av detta dokument är organiserat enligt följande. I avsnitt 2 presenteras kortfattat relaterade arbeten. Avsnitt 3 visar hur man använder den genetiska algoritmen för att utforma nätverksstrukturer. Experiment visas i avsnitt 4 och slutsatser dras i avsnitt 5.
REF har infört en genetisk algoritm för att lära sig djupa CNN strukturer, samt en fast längd binär kodning av nätverkets strukturer.
Genetic CNN
{'venue': '2017 IEEE International Conference on Computer Vision (ICCV)', 'journal': '2017 IEEE International Conference on Computer Vision (ICCV)', 'mag_field_of_study': ['Computer Science']}