Framgången med de senaste djupa konvolutionella neurala nätverk (CNN) beror på att lära dolda representationer som kan sammanfatta de viktiga faktorerna för variation bakom data. I detta arbete beskriver vi Network Dissektion, en metod som tolkar nätverk genom att tillhandahålla meningsfulla etiketter till sina enskilda enheter. Den föreslagna metoden kvantifierar tolkningen av CNN-representationer genom att utvärdera anpassningen mellan enskilda dolda enheter och visuella semantiska begrepp. Genom att identifiera de bästa anpassningarna ges enheter tolkningsbara etiketter som sträcker sig från färger, material, texturer, delar, objekt och scener. Metoden visar att djupa representationer är mer transparenta och tolkningsbara än de skulle vara under en slumpmässig motsvarande kraftfull grund. Vi tillämpar vår strategi för att tolka och jämföra de latenta representationerna av flera nätverksarkitekturer som utbildats för att lösa ett brett spektrum av övervakade och självövervakade uppgifter. Därefter undersöker vi faktorer som påverkar nätverkets tolkningsbarhet såsom antalet iterationer, legaliseringar, olika initieringsparametrar, samt nätverkens djup och bredd. Slutligen visar vi att de tolkade enheterna kan användas för att ge tydliga förklaringar till en viss CNN-förutsägelse för en bild. Våra resultat belyser att tolkningsbarhet är en viktig egenskap hos djupa neurala nätverk som ger nya insikter i vad hierarkiska strukturer kan lära sig. Index Terms-convolutional neural networks, nätverk tolkningsbarhet, visuell igenkänning, tolkningsbar maskininlärning Ç Författarna är med CSAIL, MIT,
I REF ) föreslogs en metod för nätdissektion som tolkar nätverken genom att tillhandahålla meningsfulla etiketter till deras enskilda enheter.
Interpreting Deep Visual Representations via Network Dissection
{'venue': 'IEEE Transactions on Pattern Analysis and Machine Intelligence', 'journal': 'IEEE Transactions on Pattern Analysis and Machine Intelligence', 'mag_field_of_study': ['Computer Science', 'Medicine']}