Djupa neurala nätverk är kraftfulla svarta box prediktorer som nyligen har uppnått imponerande prestanda på ett brett spektrum av uppgifter. Kvantifiera prediktiv osäkerhet i neurala nätverk är ett utmanande och ändå olöst problem. Bayesian neurala nätverk, som lär sig en fördelning över vikter, är för närvarande den state-of-the-art för att uppskatta prediktiv osäkerhet; dock dessa kräver betydande ändringar i utbildningsförfarandet och är beräknings dyrt jämfört med standard (icke-bayesian) neurala nätverk. Vi föreslår ett alternativ till Bayesian neurala nätverk, som är enkel att genomföra, lätt parallelliserbar och ger hög kvalitet prediktiva osäkerhet uppskattningar. Genom en rad experiment på klassificerings- och regressionsriktmärken visar vi att vår metod producerar väl kalibrerade osäkerhetsberäkningar som är lika bra eller bättre än ungefärliga Bayesiska neurala nätverk. För att bedöma robustheten till datasetförskjutning, utvärderar vi den prediktiva osäkerheten på testexempel från kända och okända distributioner, och visar att vår metod kan uttrycka högre osäkerhet på osedda data. Vi visar skalbarheten av vår metod genom att utvärdera prediktiva osäkerhetsberäkningar på ImageNet.
Ett alternativt tillvägagångssätt liknar där variansen av förutsägelser av flera nätverk används för att kvantifiera den prediktiva osäkerhet REF.
Simple and Scalable Predictive Uncertainty Estimation using Deep Ensembles
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}