Detta intervall används sedan för att matcha liknande dolda tillståndsmönster som visas i Match View (b). Urvalet görs genom att ange en start-stopp-intervall i texten (c) och en aktiveringströskel (t) som leder till ett urval av dolda tillstånd (blå linjer). Start-stopp-området kan ytterligare begränsas med hjälp av mönsterplotten (d). Metaspåren nedan visar extra information per ordposition som POS (e1) eller de översta K-prognoserna (e2). Verktyget kan sedan matcha detta val med liknande dolda tillståndsmönster i datamängden med varierande längder (f), vilket ger inblick i de representationer som modellen lärt sig. Matchvyn innehåller dessutom användardefinierade metadata kodade som värmekartor (g1,g2). Färgen på en värmekarta (g2) kan kartläggas (h) till ordet matris (f) som gör att användaren kan se mönster som leder till ytterligare förfining av urvalet hypotes. Navigationshjälpmedel ger bekvämlighet (i1, i2). Abstract-Recurrent neurala nätverk, och i synnerhet långa korttidsminne (LSTM) nätverk, är ett anmärkningsvärt effektivt verktyg för sekvensmodellering som lär sig en tät svart-box dold representation av deras sekventiella ingång. Forskare som är intresserade av att bättre förstå dessa modeller har studerat förändringarna i dolda tillstånd representationer över tid och lagt märke till vissa tolkningsbara mönster men också betydande buller. I detta arbete presenterar vi LSTMVIS, ett visuellt analysverktyg för återkommande neurala nätverk med fokus på att förstå dessa dolda tillståndsdynamik. Verktyget gör det möjligt för användare att välja en hypotes indataintervall för att fokusera på lokala tillstånd förändringar, att matcha dessa tillstånd förändringar till liknande mönster i en stor datauppsättning, och att anpassa dessa resultat med strukturella kommentarer från deras domän. Vi visar flera användningsfall av verktyget för att analysera specifika dolda tillstånd egenskaper på dataset som innehåller häckning, frasstruktur, och ackord progressioner, och visar hur verktyget kan användas för att isolera mönster för ytterligare statistisk analys. Vi karakteriserar domänen, de olika intressenterna och deras mål och uppgifter. Långsiktiga användningsdata efter att ha satt verktyget online visade stort intresse för maskininlärning gemenskapen.
Strobelt m.fl. REF utvecklat LSTMVis, ett allmänt syfte visuell analys verktyg för att inspektera dolda tillstånd värden i återkommande neurala nätverk.
LSTMVis: A Tool for Visual Analysis of Hidden State Dynamics in Recurrent Neural Networks
{'venue': 'IEEE Transactions on Visualization and Computer Graphics', 'journal': 'IEEE Transactions on Visualization and Computer Graphics', 'mag_field_of_study': ['Computer Science', 'Medicine']}