Vi presenterar en strategi för att adaptivt utnyttja djupa neurala nätverk för att minska utvärderingstiden på nya exempel utan förlust av noggrannhet. I stället för att försöka omforma eller tillnärma befintliga nätverk föreslår vi två system som anpassar sig till nätverken. Vi utgör först ett adaptivt nätverk utvärderingssystem, där vi lär oss ett system för att adaptivt välja komponenterna i ett djupt nätverk som ska utvärderas för varje exempel. Genom att tillåta exempel korrekt klassificerade med hjälp av tidiga lager av systemet för att avsluta, undviker vi beräkningstiden i samband med fullständig utvärdering av nätverket. Vi utökar detta för att lära sig ett nätverk urvalssystem som adaptivt väljer det nätverk som ska utvärderas för varje exempel. Vi visar att beräkningstiden kan minskas dramatiskt genom att utnyttja det faktum att många exempel kan klassificeras korrekt med hjälp av relativt effektiva nät och att komplexa, beräkningskrävande nät bara är nödvändiga för en liten del av exempel. Vi utgör ett globalt mål för att lära sig en anpassningsbar politik för tidig exit eller val av nätverk och lösa det genom att minska problemet med policyinlärning till ett viktat binärt klassificeringsproblem i lager. Empiriskt ger dessa metoder dramatiska sänkningar av beräkningskostnaden, med upp till 2,8x hastighetsökning på toppmoderna nätverk från bildigenkänningsutmaningen ImageNet med minimal (< 1%) förlust av topp5- noggrannhet.
I Adaptive Neural Networks REF föreslås ett system som adaptivt väljer de delar av en neural nätverksmodell enligt inmatningen.
Adaptive Neural Networks for Efficient Inference
{'venue': 'Proceedings of the 34th International Conference on Machine Learning, PMLR 70:527-536, 2017', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}