Den påstådda "svarta lådan" karaktär neurala nätverk är ett hinder för antagande i tillämpningar där tolkningsbarhet är nödvändig. Här presenterar vi DeepLIFT (Deep Inlärning Viktig FeaTures), en metod för att sönderdela utdata förutsägelsen av ett neuralt nätverk på en specifik ingång genom att bakåtförstärka bidragen från alla neuroner i nätverket till varje egenskap av inmatningen. DeepLIFT jämför aktiveringen av varje neuron med dess "referensaktivering" och tilldelar bidragspoäng enligt skillnaden. Genom att välja att ta särskild hänsyn till positiva och negativa bidrag, kan DeepLIFT också avslöja beroenden som missas av andra metoder. Poäng kan beräknas effektivt i ett enda bakåtpass. Vi tillämpar DeepLIFT på modeller som är utbildade på MNIST och simulerade genomiska data, och visar på betydande fördelar jämfört med gradientbaserade metoder. En detaljerad videohandledning om metoden finns på http://goo.gl/qKb7pL och koden finns på http://goo.gl/RM8jvH.
DeepLIFT REF bryter ner utdataförutsägelsen genom att tilldela skillnaderna i bidragspoäng mellan aktiveringen av varje neuron till dess referensaktivering.
Learning Important Features Through Propagating Activation Differences
{'venue': 'PMLR 70:3145-3153, 2017', 'journal': None, 'mag_field_of_study': ['Computer Science']}