Djupa neurala nätverk kräver en stor mängd märkta träningsdata under övervakad inlärning. Det kan dock i många fall vara omöjligt att samla in och märka så mycket data. I detta dokument inför vi ett system för djup överföringsutbildning, som kallas selektiv gemensam finjustering, för att förbättra utförandet av djupinlärningsuppgifter med otillräckliga utbildningsuppgifter. I detta system utförs ett målinlärningsuppgift med otillräckliga utbildningsdata samtidigt med en annan källinlärningsuppgift med rikliga utbildningsdata. Uppgiften källinlärning använder dock inte alla befintliga utbildningsdata. Vår kärnidé är att identifiera och använda en delmängd av utbildningsbilder från den ursprungliga källinlärningsuppgiften vars lågnivåegenskaper liknar dem från målinlärningsuppgiften, och gemensamt finjustera delade konvolutionslager för båda uppgifterna. Vi beräknar specifikt deskriptorer från linjära eller icke-linjära filterbanksvar på utbildningsbilder från båda uppgifterna, och använder sådana deskriptorer för att söka efter en önskad delmängd av utbildningsprover för källinlärningsuppgiften. Experiment visar att vårt system för djupt överförande lärande uppnår toppmoderna resultat på flera visuella klassificeringsuppgifter med otillräckliga utbildningsdata för djupt lärande. Sådana uppgifter inkluderar Caltech 256, MIT Indoor 67 och finkorniga klassificeringsproblem (Oxford Flowers 102 och Stanford Dogs 120). Jämfört med finjustering utan källdomän kan den föreslagna metoden förbättra klassificeringsnoggrannheten med 2–10 % med hjälp av en enda modell. Koder och modeller finns tillgängliga på https://github.com/ZYSzj/ Selektiv-Joint-Fine-tuning.
I Ref infördes ett selektivt gemensamt finjusteringssystem för att förbättra utförandet av djupinlärningsuppgifter enligt scenariot med otillräckliga utbildningsuppgifter.
Borrowing Treasures from the Wealthy: Deep Transfer Learning through Selective Joint Fine-Tuning
{'venue': '2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)', 'journal': '2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)', 'mag_field_of_study': ['Computer Science']}