Halvövervakad inlärning har visat sig vara ett kraftfullt paradigm för att utnyttja omärkta data för att minska beroendet av stora märkta dataset. I detta arbete, vi förena den nuvarande dominerande metoder för semi-övervakade lärande för att producera en ny algoritm, MixMatch, som fungerar genom att gissa låg-entropy etiketter för data-augmenterade omärkta exempel och blanda märkta och omärkta data med MixUp. Vi visar att MixMatch får toppmoderna resultat med stor marginal över många datauppsättningar och märkta datamängder. På exempelvis CIFAR-10 med 250 etiketter minskar vi felfrekvensen med en faktor på 4 (från 38 % till 11 %) och med en faktor på 2 på STL-10. Vi visar också hur MixMatch kan bidra till att uppnå en dramatiskt bättre noggrannhet-privacy kompromiss för differential integritet. Slutligen utför vi en ablation studie för att reta isär vilka komponenter i MixMatch är viktigast för dess framgång.
Förlänger detta arbete, Berthelot et al. REF introducerade en SSL-metod, MixMatch, som uppskattar lågentropy etiketter för omärkta prover och sedan tillämpar MixUp för blandade märkta och omärkta prover för utbildning av modellen.
MixMatch: A Holistic Approach to Semi-Supervised Learning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}