Den senaste tidens framgångar med djupa neurala nätverk drivs delvis av storskaliga välmärkta träningsdata. Det är dock en skrämmande uppgift att mödosamt kommentera en ImageNet-liknande datumuppsättning. Tvärtom är det ganska bekvämt, snabbt och billigt att samla träningsbilder från webben tillsammans med deras bullriga etiketter. Detta innebär behovet av alternativa metoder för att utbilda djupa neurala nätverk med hjälp av sådana bullriga etiketter. Befintliga metoder som tar itu med detta problem försöker antingen identifiera och korrigera fel etiketter eller väga om datatermer i förlustfunktionen enligt de resulterande bullriga hastigheter. Båda strategierna medför oundvikligen fel för vissa av datapunkterna. I detta dokument hävdar vi att det faktiskt är bättre att ignorera etiketterna på vissa av datapunkterna än att behålla dem om etiketterna är felaktiga, särskilt när den bullriga hastigheten är hög. När allt, fel etiketter kan vilseleda ett neuralt nätverk till en dålig lokal optimal. Vi föreslår en tvåstegsram för lärande från bullriga etiketter. I det första steget identifierar vi en liten del av bilderna från den bullriga träningsset där etiketterna är korrekta med stor sannolikhet. De bullriga etiketterna på de andra bilderna ignoreras. I det andra steget tränar vi ett djupt neuralt nätverk på ett halvövervakat sätt. Denna ram drar effektivt nytta av hela träningssetet och ändå bara en del av dess etiketter som sannolikt är korrekta. Experiment på tre datauppsättningar verifierar effektiviteten i vår strategi, särskilt när den bullriga hastigheten är hög.
Det har emellertid nyligen visat sig att det är användbart att kassera prover med stor sannolikhet för att vara felaktigt märkta och fortfarande använda dessa prover i en halvövervakad uppsättning.
A Semi-Supervised Two-Stage Approach to Learning from Noisy Labels
{'venue': 'IEEE Winter Conf. on Applications of Computer Vision 2018', 'journal': None, 'mag_field_of_study': ['Computer Science']}