Vi föreslår en teknik för att ta fram "visuella förklaringar" för beslut från en stor klass av Convolutional Neural Network (CNN)-baserade modeller, vilket gör dem mer transparenta. Vår strategi -Gradient-viktad klass Aktivering Kartläggning (Grad-CAM), använder gradienterna i alla målkoncept (säg logits för "dog" eller till och med en bildtext) som flyter in i det slutliga konvolutionslagret för att producera en grov lokaliseringskarta som belyser de viktiga regionerna i bilden för att förutsäga konceptet. Till skillnad från tidigare metoder är Grad-CAM tillämpligt på en mängd olika CNN-modeller: (1) CNN med fullt anslutna skikt (t.ex. VGG), (2) CNN som används för strukturerade resultat (t.ex. Rubrikering), (3) CNN som används i uppgifter med multimodala ingångar (t.ex. visuellt svar på frågor) eller förstärka lärande, utan arkitektoniska förändringar eller omskolning. Vi kombinerar Grad-CAM med befintliga finkorniga visualiseringar för att skapa en högupplöst klass-dicriminativ visualisering, guidad Grad-CAM, och tillämpa den på bildklassificering, bildtextning och visuella frågesvarsmodeller (VQA), inklusive ResNet-baserade arkitekturer. I samband med bildklassificeringsmodeller, våra visualiseringar (a) ge insikter i fellägen av dessa modeller (visar att till synes orimliga förutsägelser har rimliga förklaringar), (b) överträffa tidigare metoder på ILSVRC-15 svagt övervakade lokalisering uppgift, (c) är mer trogna den underliggande modellen, och (d) bidra till att uppnå modell generalisering genom att identifiera datauppsättning partiska. För bildtextning och VQA, våra visualiseringar visar även non-attention baserade modeller kan lokalisera ingångar. Slutligen utformar och genomför vi mänskliga studier för att mäta om Grad-CAM-förklaringar hjälper användare att skapa ett lämpligt förtroende för förutsägelser från djupa nätverk och visar att Grad-CAM hjälper otränade användare att framgångsrikt urskilja ett "starkare" djupt nätverk från ett "svagare" även när båda gör identiska förutsägelser. Vår kod finns på https://github.com/ramprs/grad-cam/ tillsammans med en demo på CloudCV [2] 1 och video på youtu.be/COjUB9Izk6E. * Arbete utfört på Virginia Tech. Denna förordning träder i kraft den tjugonde dagen efter det att den har offentliggjorts i Europeiska unionens officiella tidning.
Selvaraju m.fl. REF presenterade Grad-CAM som antog lutningarna i alla målkoncept för att förbättra lokaliseringen.
Grad-CAM: Visual Explanations from Deep Networks via Gradient-Based Localization
{'venue': '2017 IEEE International Conference on Computer Vision (ICCV)', 'journal': '2017 IEEE International Conference on Computer Vision (ICCV)', 'mag_field_of_study': ['Computer Science']}