Genom att tolka klassificering av svarta lådor, t.ex. djupa nätverk, kan en analytiker validera en klassificering innan den sätts in i en hög insatsmiljö. En naturlig idé är att visualisera det djupa nätverkets representationer, så att "se vad nätverket ser". I detta dokument visar vi att standardiserade metoder för att minska dimensionerna i denna miljö kan ge oinformativa eller till och med vilseledande visualiseringar. Istället presenterar vi DarkSight, som visuellt sammanfattar en klassis förutsägelser på ett sätt inspirerat av begreppet mörk kunskap. DarkSight inbäddar datapunkterna i ett lågdimensionellt utrymme så att det är lätt att komprimera den djupa klassificeringen till en enklare, i huvudsak kombinerar modellkomprimering och dimensionsreduktion. Vi jämför DarkSight mot t-SNE både kvalitativt och kvantitativt, vilket visar att DarkSight visualiseringar är mer informativa. Vår metod ger dessutom ett nytt förtroendemått baserat på mörk kunskap genom att kvantifiera hur ovanlig en given vektor av förutsägelser är.
Ett senaste verk REF kombinerar kunskapsdestillering och dimensionsreduktion för att visualisera resultaten av djupa klassificeringar.
Interpreting Deep Classifier by Visual Distillation of Dark Knowledge
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}