Detta dokument granskar nyligen studier i att förstå neurala-nätverk representationer och lärande neurala nätverk med tolknings- / disentangled mellanlager representationer. Även om djupa neurala nätverk har uppvisat överlägsen prestanda i olika uppgifter, är tolkningsbarhet alltid Achilles häl av djupa neurala nätverk. För närvarande får djupa neurala nätverk hög diskriminering makt på bekostnad av en låg tolkningsbarhet av deras svart-box representationer. Vi tror att hög tolkningsbarhet kan hjälpa människor att bryta flera flaskhalsar i djupt lärande, t.ex. lära sig av några kommentarer, lära sig via kommunikation mellan människor och datorer på semantisk nivå och semantiskt debugging nätverk representationer. Vi fokuserar på konvolutionella neurala nätverk (CNN), och se över visualiseringen av CNN representationer, metoder för att diagnostisera representationer av förtränade CNNs, metoder för disentangling pre-tränade CNN representationer, lärande av CNNs med disentrangerade representationer, och mellan-till-slut lärande baserat på modell tolkningsbarhet. Slutligen diskuterar vi framtida trender i förklarande artificiell intelligens. I detta dokument genomför vi en undersökning av aktuella studier i att förstå neurala-nätverk representationer och lära neurala nätverk med tolknings- / disentangled representationer. Vi kan grovt definiera omfattningen av översynen i följande fem forskningsinriktningar:
REF genomför en fördjupad undersökning om tolkningsbarhet med Convolutional Neural Networks (CNN).
Visual interpretability for deep learning: a survey
{'venue': 'Frontiers of Information Technology & Electronic Engineering', 'journal': 'Frontiers of Information Technology & Electronic Engineering', 'mag_field_of_study': ['Computer Science']}