Denna artikel presenterar förutsägelsen skillnad analys metod för att visualisera svaret av ett djupt neuralt nätverk till en specifik ingång. Vid klassificering av bilder belyser metoden områden i en given indatabild som ger bevis för eller mot en viss klass. Det övervinner flera brister i tidigare metoder och ger stor ytterligare insikt i beslutsprocessen för klassificeringar. Att göra neurala nätverksbeslut tolkningsbara genom visualisering är viktigt både för att förbättra modeller och för att påskynda införandet av svart-box klassificerare inom applikationsområden som medicin. Vi illustrerar metoden i experiment på naturliga bilder (ImageNet data), samt medicinska bilder (MRT hjärnskanning).
När det gäller visuella förklaringar föreslår REF att en analys av förutsägelse-skillnad tillämpas på en specifik insats.
Visualizing Deep Neural Network Decisions: Prediction Difference Analysis
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}