Meta-learning har föreslagits som en ram för att ta itu med den utmanande inlärningsmiljön med få bilder. Den viktigaste idén är att utnyttja ett stort antal liknande uppgifter för att lära sig hur man anpassar en base-learner till en ny uppgift för vilken endast ett fåtal märkta prover finns tillgängliga. Eftersom djupa neurala nätverk (DNN) tenderar att överpassa med bara några få prover, meta-learning vanligtvis använder grunda neurala nätverk (SNNs), vilket begränsar dess effektivitet. I detta dokument föreslår vi en ny inlärningsmetod som kallas metaöverföringslärande (MTL) och som lär sig att anpassa en djup NN för få shot-lärandeuppgifter. Speciellt, meta hänvisar till utbildning flera uppgifter, och överföring uppnås genom att lära skalning och flytta funktioner DNN vikter för varje uppgift. Dessutom introducerar vi den hårda uppgiften (HT) meta-batch systemet som en effektiv utbildning läroplan för MTL. Vi utför experiment med hjälp av (5-klass, 1-shot) och (5-klass, 5shot) erkännande uppgifter på två utmanande få-shot lärande riktmärken: miniImageNet och Fewshot-CIFAR100. Omfattande jämförelser med relaterade verk bekräftar att vår meta-överföring lärande metod tränas med den föreslagna HT meta-batch systemet uppnår högsta prestanda. En ablation studie visar också att båda komponenterna bidrar till snabb konvergens och hög noggrannhet 1. * Lika lön. † Yaoyao Liu gjorde detta arbete under sin praktik på NUS. 1 Kod: https://github.com/y2l/meta-transfer-learning-tensorflow
Sol och al. REF använde en meta-överföring inlärningsmekanism som skiftar och skalar neurala nätverksvikter för nya uppgifter.
Meta-Transfer Learning for Few-Shot Learning
{'venue': '2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)', 'journal': '2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)', 'mag_field_of_study': ['Computer Science']}