Utbildningsmetoden att upprepade gånger mata in alla prover i ett fördefinierat nätverk för bildklassificering har i stor utsträckning antagits av den senaste tekniken. I detta arbete tillhandahåller vi en ny metod som kan utnyttjas för att utbilda klassificeringsnätverk på ett effektivare sätt. Med början med en uppvärmning steg, föreslår vi att ständigt upprepa en Dropand-Pick (DaP) lärande strategi. I synnerhet släpper vi dessa enkla prover för att uppmuntra nätverket att fokusera på att studera hårda. Samtidigt, genom att plocka upp alla prover periodiskt under utbildningen, syftar vi till att minnas minnet av nätverken för att förhindra katastrofal glömska av tidigare inlärd kunskap. Vår DaP inlärningsmetod kan återhämta 99,88%, 99,60%, 99,83% topp-1 noggrannhet på ImageNet for ResNet-50, DenseNet-121, och MobileNet-V1 men kräver endast 75% beräkning i utbildning jämfört med dem som använder det klassiska träningsschemat. Dessutom är våra förutbildade modeller utrustade med stark kunskapsöverföringsförmåga när de används för nedströmsuppdrag, särskilt i svåra fall. Omfattande experiment på objektdetektering, exemplifiera segmentering och pose uppskattning kan mycket väl visa effektiviteten i vår DaP utbildningsmetod.
REF föreslog en aktiv urvalsstrategi som når toppmodern noggrannhet på visuella modeller ResNet-50, DenseNet-121, och MobileNet-V1, som har en lägre beräkningskostnad jämfört med tidigare nätverk.
Revisiting Pre-training: An Efficient Training Method for Image Classification
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}