Mixup [28] är en nyligen föreslagen metod för att träna djupa neurala nätverk där ytterligare prover genereras under utbildningen genom att konvext kombinera slumpmässiga par av bilder och tillhörande etiketter. Även om det är enkelt att genomföra, har det visat sig vara en förvånansvärt effektiv metod för dataförstärkning för bildklassificering; DNNs utbildade med mixup visar märkbara vinster i klassificeringsprestanda på ett antal riktmärken bildklassificering. I detta arbete diskuterar vi en hittills orörd aspekt av mixup träning - kalibrering och prediktiv osäkerhet av modeller tränade med mixup. Vi finner att DNNs tränade med mixup är betydligt bättre kalibrerade - dvs den förutsagda softmax poäng är mycket bättre indikatorer på den faktiska sannolikheten för en korrekt förutsägelse - än DNNs tränas på det vanliga sättet. Vi utför experiment på ett antal bildklassificeringsarkitekturer och datauppsättningar - inklusive storskaliga datauppsättningar som ImageNet - och finner att så är fallet. Dessutom finner vi att endast blandningsfunktioner inte resulterar i samma kalibreringsnytta och att märkningen utjämning i mixup träning spelar en viktig roll för att förbättra kalibrering. Slutligen konstaterar vi också att blandade DNN är mindre benägna att överkonfidentiella förutsägelser om out-of-distribution och slumpmässiga bullerdata. Vi drar slutsatsen att det typiska övertro som ses i neurala nätverk, även på in-distribution data är sannolikt en följd av utbildning med hårda etiketter, vilket tyder på att mixup utbildning användas för klassificering uppgifter där prediktiv osäkerhet är en betydande oro.
I REF visades att mixup inte bara förbättrar generaliseringen, utan också ger väl kalibrerade softmax-poäng, och ger mindre säkra förutsägelser för out-of-distribution data än en DNN utbildad utan Mixup.
On Mixup Training: Improved Calibration and Predictive Uncertainty for Deep Neural Networks
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}