Bland en stor samling av nyligen föreslagna metoder för oövervakad inlärning av visuella representationer, en klass av självövervakade tekniker uppnår överlägsen prestanda på många utmanande riktmärken. Ett stort antal av förevändningsuppgifterna för självövervakad inlärning har studerats, men andra viktiga aspekter, såsom valet av konvolutionella neurala nätverk (CNN), har inte fått lika stor uppmärksamhet. Därför återbesöker vi många tidigare föreslagna självövervakade modeller, genomför en grundlig storskalig studie och, som ett resultat, avslöja flera viktiga insikter. Vi utmanar ett antal vanliga metoder i självövervakad visuell representation lärande och observera att standardrecept för CNN design inte alltid översätta till självövervakad representation lärande. Som en del av vår studie ökar vi drastiskt prestandan hos tidigare föreslagna tekniker och överträffar tidigare publicerade toppmoderna resultat med stor marginal.
Arbetet inom Ref ger en omfattande studie av några av de senaste metoderna.
Revisiting Self-Supervised Visual Representation Learning
{'venue': '2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)', 'journal': '2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)', 'mag_field_of_study': ['Computer Science']}