Medan större och djupare neurala nätverk arkitekturer fortsätter att avancera state-of-the-art för många datorseende uppgifter, verkliga antagandet av dessa nätverk hindras av hårdvara och hastighet begränsningar. Konventionella modeller komprimeringsmetoder försöker ta itu med detta problem genom att ändra arkitekturen manuellt eller med hjälp av fördefinierade heuristik. Eftersom utrymmet för alla reducerade arkitekturer är mycket stort, är det en svår uppgift att modifiera arkitekturen i ett djupt neuralt nätverk på detta sätt. I detta dokument tar vi itu med denna fråga genom att införa en principiell metod för att lära sig mindre nätarkitekturer på ett datadrivet sätt med hjälp av förstärkt inlärning. Vår strategi tar ett större "lärare" nätverk som ingång och utgångar ett komprimerat "student" nätverk som härrör från "lärare" nätverk. I den första fasen av vår metod tar ett återkommande politiskt nätverk aggressivt bort lager från den stora "lärare"-modellen. I det andra steget minskar ett annat återkommande politiskt nätverk noggrant storleken på varje kvarvarande skikt. Det resulterande nätverket utvärderas sedan för att få en belöning - en poäng baserat på exaktheten och komprimering av nätverket. Vår strategi använder denna belöningssignal med policygradienter för att träna politiken för att hitta ett lokalt optimalt studentnätverk. Våra experiment visar att vi kan uppnå komprimeringshastigheter på mer än 10× för modeller som ResNet-34 samtidigt upprätthålla liknande prestanda som indata "lärare" nätverk. Vi presenterar också ett värdefullt resultat av överföringslärande som visar att en politik som är förträngd på mindre "lärarnätverk" kan användas för att snabbt påskynda utbildningen i större "lärarnätverk".
Ashok et al REF använder exempelvis förstärkande inlärning för att beskära studentnätverk under ledning av lärarnätverk.
N2N Learning: Network to Network Compression via Policy Gradient Reinforcement Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}