Vi föreslår en allmän ram kallad Network Dissektion för att kvantifiera tolkningen av latenta representationer av CNN genom att utvärdera anpassningen mellan enskilda dolda enheter och en uppsättning semantiska begrepp. Med tanke på alla CNN-modeller bygger den föreslagna metoden på en bred uppsättning visuella begrepp för att poängsätta de dolda enheternas semantik vid varje mellanliggande konvolutionsskikt. Enheterna med semantik ges etiketter över en rad olika objekt, delar, scener, texturer, material och färger. Vi använder den föreslagna metoden för att testa hypotesen att enheters tolkningsförmåga är likvärdig med slumpmässiga linjära kombinationer av enheter, sedan använder vi vår metod för att jämföra latenta representationer av olika nätverk när de utbildas för att lösa olika övervakade och självövervakade utbildningsuppgifter. Vi analyserar vidare effekten av träning iterationer, jämför nätverk tränade med olika initieringar, undersöker effekten av nätverkets djup och bredd, och mäter effekten av dropout och batch normalisering på tolkningen av djupa visuella representationer. Vi visar att den föreslagna metoden kan belysa CNN-modellernas egenskaper och utbildningsmetoder som går utöver mätningar av deras diskriminerande kraft. * anger samma avgift Källkod och uppgifter som finns tillgängliga på http://netdissect.
REF ) utvecklade en skalbar metod för att mäta tolkningen av djupa representationer.
Network Dissection: Quantifying Interpretability of Deep Visual Representations
{'venue': '2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)', 'journal': '2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)', 'mag_field_of_study': ['Computer Science']}