Multi-task lärande syftar till att förbättra generaliseringen prestanda av flera förutsägelser uppgifter genom att på lämpligt sätt dela relevant information över dem. I samband med djupa neurala nätverk realiseras denna idé ofta genom handdesignade nätverksarkitekturer med skikt som delas mellan uppgifter och grenar som kodar uppgiftsspecifika funktioner. Utrymmet för möjliga djuparkitekturer med flera uppgifter är dock kombinatoriskt stort och ofta nås den slutliga arkitekturen genom manuell utforskning av detta utrymme, vilket kan vara både felbenäget och tråkigt. Vi föreslår ett automatiskt tillvägagångssätt för att utforma kompakta djupinlärningsarkitekturer med flera uppgifter. Vår strategi börjar med ett tunt flerskiktsnätverk och breddar det dynamiskt på ett girigt sätt under träningen. Genom att göra det iterativt skapar det en trädliknande djup arkitektur, där liknande uppgifter finns i samma gren fram till de översta skikten. Utvärdering om person attribut klassificering uppgifter som omfattar ansikts-och klädattribut tyder på att de modeller som produceras genom den föreslagna metoden är snabba, kompakta och kan nära matcha eller överträffa den senaste noggrannheten från starka baslinjer med mycket dyrare modeller.
Lu m.fl. föreslog en principiell strategi för att utforma kompakt MTL-arkitektur genom att börja med ett tunt nätverk och dynamiskt bredda det på ett girigt sätt REF.
Fully-Adaptive Feature Sharing in Multi-Task Networks with Applications in Person Attribute Classification
{'venue': '2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)', 'journal': '2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)', 'mag_field_of_study': ['Computer Science']}