Detta dokument 1 syftar till att kvantitativt förklara motiven för varje förutsägelse som görs av en förträngd konvolutionella neurala nätverk (CNN). Vi föreslår att man lär sig ett beslutsträd, som klargör den specifika orsaken till varje förutsägelse som CNN gjort på semantisk nivå. Det vill säga. Beslutsträdet sönderdelas med avbildningar i höga konv-lager av CNN i elementära begrepp av objektdelar. På så sätt berättar beslutsträdet för människor vilka objektdelar som aktiverar vilka filter för förutsägelsen och hur mycket varje objektdel bidrar till förutsägelsens poäng. Sådana semantiska och kvantitativa förklaringar för CNN-prognoser har specifika värden utöver den traditionella pixelnivåanalysen av CNN. Mer specifikt minerar vår metod alla potentiella beslutslägen i CNN, där varje läge representerar ett typiskt fall av hur CNN använder objektdelar för förutsägelse. Beslutsträdet organiserar alla potentiella beslutslägen på ett grovt till bra sätt för att förklara CNN-prognoser på olika finkorniga nivåer. Experiment har visat hur effektiv den föreslagna metoden är.
I REF beskrivs till exempel en tolkningsbar proxy (ett beslutsträd) som kan förklara logiken i varje förutsägelse om ett förutbestämt konvolutionellt neuralnät.
Interpreting CNNs via Decision Trees
{'venue': '2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)', 'journal': '2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR)', 'mag_field_of_study': ['Computer Science']}