Denna artikel presenterar förutsägelsen skillnad analys metod för att visualisera svaret av ett djupt neuralt nätverk till en specifik ingång. Vid klassificering av bilder belyser metoden områden i en given indatabild som ger bevis för eller mot en viss klass. Det övervinner flera brister i tidigare metoder och ger stor ytterligare insikt i beslutsprocessen för klassificeringar. Att göra neurala nätverksbeslut tolkningsbara genom visualisering är viktigt både för att förbättra modeller och för att påskynda införandet av svart-box klassificerare inom applikationsområden som medicin. Vi illustrerar metoden i experiment på naturliga bilder (ImageNet data), samt medicinska bilder (MRT hjärnskanning).
Zintgraf m.fl. REF visualiserade responsen av ett djupt neuralt nätverk till en specifik ingång med hjälp av villkorlig och multivariat provtagning.
Visualizing Deep Neural Network Decisions: Prediction Difference Analysis
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}