Abstract-Nonlinear metoder som Deep Neural Networks (DNN) är guld standard för olika utmanande maskininlärning problem, t.ex. bildklassificering, naturligt språk bearbetning eller mänskliga åtgärder erkännande. Även om dessa metoder fungerar imponerande bra, har de en betydande nackdel, bristen på öppenhet, vilket begränsar möjligheten att tolka lösningen och därmed tillämpningsområdet i praktiken. Speciellt DNN fungerar som svarta lådor på grund av deras flerlagers ickelinjära struktur. I detta dokument introducerar vi en ny metod för att tolka generiska flerskiktsnervnät genom att dela upp beslutet om nätklassificering i bidrag från dess ingångselement. Även om vårt fokus ligger på bildklassificering är metoden tillämplig på en bred uppsättning indata, inlärningsuppgifter och nätverksarkitekturer. Vår metod är baserad på djup Taylor nedbrytning och effektivt använder strukturen i nätverket genom att bakåtpropagera förklaringar från utdata till inmatningslagret. Vi utvärderar den föreslagna metoden empiriskt på datamängderna MNIST och ILSVRC.
Deep Taylor Decomposition REF är en förlängning av LRP för att tolka beslutet av en DNN genom att bryta ner aktiveringen av en neuron i termer av bidragen från dess ingångar.
Explaining NonLinear Classification Decisions with Deep Taylor Decomposition
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}