För återkommande neurala nätverk tränas på tidsserier med mål och exogena variabler, förutom exakta förutsägelser, är det också önskvärt att ge tolkningsbara insikter i data. I detta papper utforskar vi strukturen av LSTM återkommande neurala nätverk för att lära sig variabelt dolda tillstånd, i syfte att fånga olika dynamik i multi-variabel tidsserie och särskilja bidraget av variabler till förutsägelsen. Med dessa variabla dolda tillstånd, föreslås en blandning uppmärksamhetsmekanism för att modellera den generativa processen för målet. Sedan utvecklar vi tillhörande utbildningsmetoder för att gemensamt lära sig nätverksparametrar, variabel och temporal betydelse w.r.t förutsägelsen av målvariabeln. Omfattande experiment på verkliga dataset visar förbättrade förutsägelser prestanda genom att fånga dynamiken i olika variabler. Samtidigt utvärderar vi tolkningens resultat både kvalitativt och kvantitativt. Det uppvisar utsikter som en end-to-end ram för både prognostisering och kunskapsextrahering över multi-variable data.
IMV-LSTM REF använder en blandning uppmärksamhetsmekanism för att sammanfatta bidrag av specifika funktioner på dolt tillstånd.
Exploring Interpretable LSTM Neural Networks over Multi-Variable Data
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}