Att förstå och tolka klassificeringsbeslut i automatiska bildklassificeringssystem är av stort värde i många tillämpningar, eftersom det gör det möjligt att verifiera systemets resonemang och ger ytterligare information till den mänskliga experten. Även maskininlärning metoder löser mycket framgångsrikt en uppsjö av uppgifter, de har i de flesta fall nackdelen att fungera som en svart låda, inte ge någon information om vad som fick dem att komma fram till ett visst beslut. I detta arbete föreslås en allmän lösning på problemet med att förstå klassificeringsbeslut genom pixelvis nedbrytning av ickelinjära klassificeringar. Vi introducerar en metod som gör det möjligt att visualisera bidragen från enstaka pixlar till förutsägelser för kärnbaserade klassificeringar över Bag of Words funktioner och för flerskiktade neurala nätverk. Dessa pixel bidrag kan visualiseras som värmekartor och ges till en mänsklig expert som intuitivt inte bara kan verifiera giltigheten av klassificeringsbeslutet, men också fokusera ytterligare analys på regioner av potentiellt intresse. Vi utvärderar vår metod för klassificeringar utbildade på PASCAL VOC 2009 bilder, syntetiska bilddata som innehåller geometriska former, MNIST handskrivna siffror data set och för den förtränade ImageNet modell som finns som en del av Caffe öppen källkod paket.
REF fokuserar på pixelvis nedbrytning av ickelinjära klassiatorer, vilket gör det möjligt att visualisera bidrag av enskilda pixlar till förutsägelser för kärnbaserade klassiatorer.
On Pixel-Wise Explanations for Non-Linear Classifier Decisions by Layer-Wise Relevance Propagation