Detta papper föreslår en ny metod, som vi kallar VisualBackProp, för att visualisera vilka uppsättningar pixlar av ingångsbilden bidrar mest till de förutsägelser som gjorts av det konvolutionella neurala nätverket (CNN). Metoden är i hög grad beroende av att utforska intuitionen att funktionskartorna innehåller allt mindre irrelevant information till förutsägelsens beslut när de rör sig djupare in i nätverket. Den teknik vi föreslår utvecklades som ett felsökningsverktyg för CNN-baserade system för styrning av självkörande bilar och måste därför köras i realtid, dvs. Det var konstruerat för att kräva mindre beräkningar än en framåtutbredning. Detta gör den presenterade visualiseringsmetoden till ett värdefullt felsökningsverktyg som enkelt kan användas under både träning och slutledning. Vi motiverar dessutom vårt tillvägagångssätt med teoretiska argument och bekräftar teoretiskt att den föreslagna metoden identifierar uppsättningar av indatapixlar, snarare än enskilda pixlar, som tillsammans bidrar till förutsägelsen. Våra teoretiska resultat stämmer överens med de experimentella resultaten. Den empiriska utvärderingen visar att den föreslagna metoden för vägvideodata är rimlig och visar att den på ett gynnsamt sätt kan jämföras med LRP-metoden, dvs. den uppnår liknande visualiseringsresultat och samtidigt uppnår storleksordningen hastigheter.
I den autonoma drivande världen utvecklade REF en rikare uppfattning om uppmärksamhet på pixlar som tillsammans bidrar till förutsägelsen.
VisualBackProp: visualizing CNNs for autonomous driving
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}