Ett neuralt nätverk utplacerat i det vilda kan uppmanas att göra förutsägelser för ingångar som drogs från en annan distribution än den av träningsdata. En uppsjö av arbete har visat att det är lätt att hitta eller syntetisera ingångar för vilka ett neuralt nätverk är mycket säker men fel. Generativa modeller betraktas allmänt som robusta för ett sådant felaktigt förtroende som att modellera densiteten hos ingångsfunktionerna kan användas för att upptäcka nya, out-of-distribution ingångar. I detta dokument ifrågasätter vi detta antagande. Vi finner att densiteten som lärts av flödesbaserade modeller, VAEs, och PixelCNNs inte kan skilja bilder av vanliga objekt som hundar, lastbilar och hästar (dvs.. CIFAR-10) från husnummer (dvs. SVHN), som anger en högre sannolikhet för den senare när modellen är utbildad på den förra. Dessutom hittar vi bevis för detta fenomen när man para flera populära bilddataset: FashionMNIST vs MNIST, CelebA vs SVHN, ImageNet vs CIFAR-10 / CIFAR-100 / SVHN. För att undersöka detta underliga beteende fokuserar vi på flödesbaserade generativa modeller i synnerhet eftersom de tränas och utvärderas via den exakta marginella sannolikheten. Vi finner att ett sådant beteende består även när vi begränsar flödesmodellerna till konstant volymomvandlingar. Dessa omvandlingar medger viss teoretisk analys, och vi visar att skillnaden i sannolikheter kan förklaras av platsen och varianserna av data och modellen krökning. Våra resultat försiktighet mot att använda densitet uppskattningar från djupa generativa modeller för att identifiera ingångar som liknar utbildningsdistributionen tills deras beteende för out-of-distribution ingångar är bättre förstådd. * Motsvarande författare: e.nalisnick@eng.cam.ac.uk och balajiln@google.com. † Arbete utfört under praktik på DeepMind.
Dessa tillvägagångssätt har dock visat sig ge en större sannolikhet för vissa av OOD-datauppsättningarna REF ).
Do Deep Generative Models Know What They Don't Know?
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}