Den imponerande prestandan och plasticiteten hos konvolutionella neurala nätverk för att lösa olika synproblem skuggas av deras svart-box natur och dess resulterande brist på full förståelse. För att minska denna klyfta föreslår vi att man beskriver enskilda neuroners aktivitet genom att kvantifiera deras inneboende selektivitet till specifika egenskaper. Vårt tillvägagångssätt är baserat på definitionen av selektivitetsindex för funktioner som gör det möjligt att rangordna neuroner efter specifika egenskaper. Här rapporterar vi resultaten av att utforska selektivitetsindex för: a) en bildfunktion (färg); och b) en bildetikett (klassmedlemskap). Vårt bidrag är ett ramverk för att söka eller klassificera neuroner genom att indexera dessa selektivitetsegenskaper. Det hjälper till att hitta färg selektiva neuroner, såsom en röd-svamp neuron i lager conv4 eller klass selektiva neuroner såsom hund-ansikte neuroner i lager conv5, och etablerar en metod för att härleda andra selektivitet egenskaper. Indexering på neuron selektivitet kan statistiskt rita hur funktioner och klasser representeras genom lager i ett ögonblick när storleken på tränade nät växer och automatiska verktyg för att indexera kan vara till hjälp.
Vi undersöker tolkningen av det konvolutionella neurala nätverket genom att indexera aktiveringarna på kanalerna inom de konvolutionella skikten REF.
Understanding trained CNNs by indexing neuron selectivity
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}