Den växande betydelsen av massiva dataset med tillkomsten av djup inlärning gör robustheten att märka buller en kritisk egenskap för klassificeringsföretagen att ha. Källor till etikettbuller inkluderar automatisk märkning, icke-expert märkning, och märkning korruption av data förgifta motståndare. I det senare fallet kan korruption vara godtyckligt dålig, till och med så dålig att en klassificerare förutspår fel etiketter med stort förtroende. För att skydda oss mot sådana bullerkällor utnyttjar vi det faktum att det ofta är lätt att upphandla en liten uppsättning rena etiketter. Vi visar att robusthet att märka buller upp till svåra styrkor kan uppnås genom att använda en uppsättning tillförlitliga data med rena etiketter, och föreslår en förlustkorrigering som använder tillförlitliga exempel på ett data-effektivt sätt för att minska effekterna av etikettbuller på djupa neurala nätverk klassificerare. Genom vision och bearbetning av naturligt språk experimenterar vi med olika etikettljud vid flera styrkor, och visar att vår metod avsevärt överträffar befintliga metoder.
Till exempel visar REF att med hjälp av en uppsättning tillförlitliga data för att uppskatta förvirringsmatrisen har betydande vinster.
Using Trusted Data to Train Deep Networks on Labels Corrupted by Severe Noise
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}