Djupa nätverk som är utbildade på storskaliga data kan lära sig överförbara funktioner för att främja lärandet av flera uppgifter. Eftersom djupa drag så småningom övergår från allmänna till specifika längs djupa nätverk, är ett grundläggande problem hur man kan utnyttja förhållandet mellan olika uppgifter och förbättra funktionen överförbarhet i de uppgiftsspecifika skikten. I det här dokumentet föreslår vi Deep Relationship Networks (DRN) som upptäcker uppgiftsförhållandet baserat på nya tensor normala priors över parameter tensors av flera uppgiftsspecifika skikt i djupa konvolutionsnätverk. Genom att gemensamt lära sig överförbara funktioner och arbetsrelationer kan DRN lindra dilemmat med negativ överföring i funktionsskikten och underöverföring i klassificeringsskiktet. Omfattande experiment visar att DRN ger toppmoderna resultat på standardiserade riktmärken för lärande med flera arbetsuppgifter.
Multilinjära relationsnätverk REF utökar denna allmänna ram genom att placera tensor normala priors på parameteruppsättningen av de fullt anslutna skikten.
Learning Multiple Tasks with Deep Relationship Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}