De senaste åren har åstadkommit stora framsteg i utbildning stora, djupa neurala nätverk (DNN), inklusive anmärkningsvärda framgångar i utbildning konvolutionella neurala nätverk (convnets) att känna igen naturliga bilder. Men vår förståelse av hur dessa modeller fungerar, särskilt vilka beräkningar de utför på mellanskikt, har släpat efter. Framstegen på området kommer att påskyndas ytterligare genom utvecklingen av bättre verktyg för att visualisera och tolka neurala nät. Vi introducerar två sådana verktyg här. Den första är ett verktyg som visualiserar aktiveringarna som produceras på varje lager av ett utbildat konvnet när det behandlar en bild eller video (t.ex. en live webbkamera stream). Vi har funnit att titta på live aktiveringar som förändring i svar på användarinput bidrar till att bygga värdefulla intuitioner om hur convnets fungerar. Det andra verktyget möjliggör visualisering av funktioner vid varje lager av en DNN via legaliserad optimering i bildutrymme. Eftersom tidigare versioner av denna idé producerade mindre igenkännliga bilder, introducerar vi här flera nya legaliseringsmetoder som kombineras för att producera kvalitativt tydligare, mer tolkningsbara visualiseringar. Båda verktygen är öppen källkod och arbetar med en förtränad konvnet med minimal inställning.
Yosinski REF utvecklade ett verktyg för att visualisera läget för aktiveringar som produceras på varje lager av ett utbildat CNN.
Understanding Neural Networks Through Deep Visualization
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}