Abstrakt. Förklaringar av de beslut som fattas av ett djupt neuralt nätverk är viktiga för att mänskliga slutanvändare ska kunna förstå och diagnostisera systemets pålitlighet. Nuvarande neurala nätverk som används för visuell igenkänning används i allmänhet som svarta lådor som inte ger någon mänsklig tolkningsbar motivering för en förutsägelse. I detta arbete föreslår vi en ny ram som kallas interpretable bases decomposition för att ge visuella förklaringar till klassificeringsnätverk. Genom att bryta ner de neurala aktiveringarna av indatabilden till semantiskt uttolkbara komponenter som är förträngda från en stor koncept corpus, kan det föreslagna ramverket lösgöra det bevis som kodats i aktiveringsfunktionen vektor, och kvantifiera bidraget från varje bit av bevis till den slutliga förutsägelsen. Vi tillämpar vårt ramverk för att ge förklaringar till flera populära nätverk för visuell igenkänning, och visar att det kan förklara de förutsägelser som ges av nätverken på ett mänskligt tolkningsbart sätt. Den mänskliga tolkningen av de visuella förklaringar som tillhandahålls av vårt ramverk och andra färska förklaringsmetoder utvärderas genom Amazon Mechanical Turk, visar att vårt ramverk genererar mer trogna och tolkningsbara förklaringar 1.
I REF föreslås ett nytt ramverk för att bryta ner aktiveringar av indatabilden i semantiskt tolkabara komponenter.
Interpretable Basis Decomposition for Visual Explanation
{'venue': 'ECCV', 'journal': None, 'mag_field_of_study': ['Computer Science']}