Få shot-lärande och självövervakad inlärning tar upp olika aspekter av samma problem: hur man utbildar en modell med lite eller ingen märkning av data. Få-shot lärande syftar till optimeringsmetoder och modeller som kan lära sig effektivt att känna igen mönster i lågdatasystemet. Självövervakad inlärning fokuserar istället på omärkt data och tittar in i det för övervakning signal för att mata hög kapacitet djupa neurala nätverk. I detta arbete utnyttjar vi komplementariteten mellan dessa två områden och föreslår en strategi för att förbättra lärandet med få resultat genom självövervakning. Vi använder självövervakning som en extra uppgift i ett par skott lärande pipeline, vilket gör det möjligt för funktionsextraktorer att lära sig rikare och mer överförbara visuella representationer samtidigt som de fortfarande använder få kommenterade prover. Genom självövervakning kan vårt tillvägagångssätt naturligtvis utvidgas till att använda olika omärkta data från andra dataset i den få-shot-inställningen. Vi rapporterar konsekventa förbättringar inom en rad arkitekturer, datauppsättningar och självövervakningstekniker. Vi tillhandahåller genomförandekoden på https://github.com/valeoai/BF3S.
Självövervakad rotation användes som en hjälpuppgift i REF för att lära sig rikare visuella representationer.
Boosting Few-Shot Visual Learning With Self-Supervision
{'venue': '2019 IEEE/CVF International Conference on Computer Vision (ICCV)', 'journal': '2019 IEEE/CVF International Conference on Computer Vision (ICCV)', 'mag_field_of_study': ['Computer Science']}