Abstrakt. Layer-wise relevans förökning är en ram som gör det möjligt att bryta förutsägelsen av ett djupt neuralt nätverk som beräknas över ett prov, t.ex. En bild, ned till relevanspoäng för stickprovets enskilda ingångsmått, t.ex. subpixlar av en bild. Detta tillvägagångssätt kan tillämpas direkt på generaliserade linjära kartläggningar, men icke-linjära produkttyper omfattas inte. Detta dokument föreslår ett tillvägagångssätt för att utvidga lagervis relevans utbredning till neurala nätverk med lokala omnormalisering lager, som är en mycket vanlig produkttyp icke-linjäritet i konvolutionella neurala nätverk. Vi utvärderar den föreslagna metoden för lokala omnormalisering lager på CIFAR-10, Imagenet och MIT Places datauppsättningar.
Layer-wise relevans förökning (LRP) REF beräknar gradienter av förutsägelsen poäng genom att utnyttja en bakåt operation i neurala nätverk.
Layer-wise Relevance Propagation for Neural Networks with Local Renormalization Layers
{'venue': 'ICANN', 'journal': None, 'mag_field_of_study': ['Computer Science']}