Neurala nätklassificerare som är utbildade på data med kommenterade klassetiketter kan också fånga skenbar visuell likhet mellan kategorier utan att bli instruerade att göra det. Vi studerar om denna observation kan utvidgas utanför det traditionella området för övervakad inlärning: Kan vi lära oss en bra funktionsrepresentation som fångar uppenbara likheter mellan fall, istället för klasser, genom att bara be funktionen att vara diskriminerande i enskilda fall? Vi formulerar denna intuition som ett icke-parametriskt klassificeringsproblem på instansnivå, och använder bullerkontrastiv uppskattning för att ta itu med de beräkningsutmaningar som det stora antalet instansklasser medför. Våra experimentella resultat visar att vår metod, under oövervakade inlärningsinställningar, överträffar den senaste tekniken på ImageNet klassificering med stor marginal. Vår metod är också anmärkningsvärd för att ständigt förbättra testprestandan med mer träningsdata och bättre nätverksarkitekturer. Genom att finjustera den inlärda funktionen får vi ytterligare konkurrenskraftiga resultat för halvövervakade inlärnings- och objektdetekteringsuppgifter. Vår icke-parametriska modell är mycket kompakt: Med 128 funktioner per bild, kräver vår metod endast 600 MB lagring för en miljon bilder, vilket möjliggör snabb närmaste grannhämtning på körtid.
Denna metod är relaterad till en annan oövervakad inlärningsmetod REF.
Unsupervised Feature Learning via Non-parametric Instance Discrimination
{'venue': '2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition', 'journal': '2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition', 'mag_field_of_study': ['Computer Science']}