Vi föreslår ett generiskt ramverk för att kalibrera noggrannheten och förtroendet för en förutsägelse i djupa neurala nätverk genom stokastiska slutsatser. Vi tolkar stokastisk legalisering med hjälp av en Bayesian modell, och analysera förhållandet mellan prediktiv osäkerhet av nätverk och variansen av de förutsägelser poäng som erhållits av stokastiska slutsatser för ett enda exempel. Vår empiriska studie visar att noggrannheten och poängen i en förutsägelse är starkt korrelerade med variansen av multipla stokastiska slutsatser som ges av stokastiskt djup eller avhopp. Motiverade av denna iakttagelse, utformar vi en ny variansviktad konfidensintegrerad förlustfunktion som består av två kors-entropi förlust termer med avseende på mark-sanning och enhetlig fördelning, som balanseras av variansen av stokastiska förutsägelser poäng. Den föreslagna förlustfunktionen gör det möjligt för oss att lära oss djupa neurala nätverk som förutsäger konfidens kalibrerade poäng med hjälp av en enda inference. Vår algoritm presenterar enastående konfidenskalibreringsprestanda och förbättrar klassificeringsnoggrannheten när den kombineras med två populära stokastiska legaliseringstekniker-stokastiska djup och dropout-in flera modeller och dataset; det lindrar problemet med överkonfidens i djupa neurala nätverk avsevärt genom att träna nätverk för att uppnå förutsägelse noggrannhet proportionell mot förtroendet för förutsägelse.
Seo m.fl. I REF föreslogs en variansviktad förlustfunktion som gör det möjligt att lära sig kalibreringspoäng för enstaka skott.
Learning for Single-Shot Confidence Calibration in Deep Neural Networks Through Stochastic Inferences
{'venue': '2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)', 'journal': '2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)', 'mag_field_of_study': ['Computer Science', 'Mathematics']}