Abstrakt. Vi föreslår en inkrementell utbildningsmetod som delar upp det ursprungliga nätverket i undernätverk, som sedan gradvis införlivas i det löpande nätverket under utbildningsprocessen. För att möjliggöra en jämn dynamisk tillväxt av nätverket, introducerar vi en look-ahead initiering som överträffar den slumpmässiga initiering. Vi visar att vårt inkrementella tillvägagångssätt når referensnätets basvärdesnoggrannhet. Dessutom gör det möjligt att identifiera mindre partitioner av det ursprungliga toppmoderna nätverket, som levererar samma slutliga noggrannhet, genom att endast använda en bråkdel av det globala antalet parametrar. Detta möjliggör en potentiell upptrappning av träningstiden av flera faktorer. Vi rapporterar träningsresultat på CIFAR-10 för ResNet och VGGNet.
I strategi et al. I REF föreslogs en metod som delar upp det ursprungliga nätverket i delnätverk som sedan gradvis införlivas i huvudnätet under utbildningen.
Incremental Training of Deep Convolutional Neural Networks
{'venue': 'http://ceur-ws.org/Vol-1998', 'journal': None, 'mag_field_of_study': ['Mathematics', 'Computer Science']}