Djupa neurala nätverk (DNN) har uppnått enorma framgångar i en mängd olika tillämpningar inom många discipliner. Ändå kommer deras överlägsna prestanda med de dyra kostnaderna för att kräva korrekt kommenterade storskaliga datauppsättningar. På grund av DNN:s stora kapacitet kan fel i utbildningsetiketter dessutom hämma prestandan. För att bekämpa detta problem har man nyligen föreslagit ett absolut fel (MAE) som ett alternativ till den allmänt använda kategoriska förlusten av korsentropi (CCE). Men som vi visar i detta dokument, MAE kan prestera dåligt med DNNs och utmanande dataset. Här presenterar vi en teoretiskt förankrad uppsättning av buller-robust förlustfunktioner som kan ses som en generalisering av MAE och CCE. Föreslagna förlustfunktioner kan enkelt appliceras med alla befintliga DNN arkitektur och algoritm, samtidigt som goda prestanda i ett brett spektrum av bullriga etikettscenarier. Vi rapporterar resultat från experiment som genomförts med CIFAR-10, CIFAR-100 och FASHION-MNIST dataset och syntetiskt genererade bullriga etiketter.
Buller-robust förlust REF använder den gemensamma övervakningen av kategorisk kors-entropi förlust och medelvärde absolut fel för att optimera förlustfunktionen ur bullerrobusts perspektiv.
Generalized Cross Entropy Loss for Training Deep Neural Networks with Noisy Labels
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}