Med den snabba ökningen av storskaliga, verkliga datamängder blir det viktigt att ta itu med problemet med långstjärtad datadistribution (dvs. ett fåtal klasser står för de flesta av uppgifterna, medan de flesta klasser är underrepresenterade). Befintliga lösningar antar vanligtvis strategier för återbalansering av klass, t.ex. omprovtagning och omviktning, baserat på antalet observationer för varje klass. I detta arbete hävdar vi att i takt med att antalet prover ökar kommer den ytterligare fördelen med en ny tillagd datapunkt att minska. Vi introducerar en ny teoretisk ram för att mäta dataöverlappning genom att tillsammans med varje prov associera en liten grannregion snarare än en enda punkt. Det effektiva antalet prover definieras som provvolymen och kan beräknas med en enkel formel (1−β n )/(1−β), där n är antalet prover och β [0, 1) är en hyperparameter. Vi utformar ett omviktningssystem som använder det effektiva antalet prover för varje klass för att balansera förlusten, vilket ger en klassbalanserad förlust. Omfattande experiment utförs på artificiellt inducerade långstjärtade CIFAR-dataset och storskaliga dataset, inklusive ImageNet och iNaturalist. Våra resultat visar att nätverket, när det tränas med den föreslagna klassbalanserade förlusten, kan uppnå betydande resultatvinster på långa datauppsättningar. * Arbetet utfördes medan Yin Cui och Yang Song arbetade på Google (ett dotterbolag till Alphabet Inc.).
Cui m.fl. REF förbättrar omviktningen genom det omvända effektiva antalet prover.
Class-Balanced Loss Based on Effective Number of Samples
{'venue': '2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)', 'journal': '2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)', 'mag_field_of_study': ['Computer Science']}