Vi introducerar exempelmässigt funktionsval som metod för modelltolkning. Vår metod bygger på att lära sig en funktion för att extrahera en delmängd av funktioner som är mest informativa för varje givet exempel. Denna funktionsväljare tränas för att maximera den ömsesidiga informationen mellan valda funktioner och responsvariabeln, där den villkorliga fördelningen av responsvariabeln med tanke på inmatningen är den modell som ska förklaras. Vi utvecklar en effektiv variations approximation till den ömsesidiga informationen, och visar effektiviteten av vår metod på en mängd olika syntetiska och verkliga datamängder med hjälp av både kvantitativa mätvärden och mänsklig utvärdering.
Ett anmärkningsvärt nytt arbete längs denna linje är REF, som föreslår att maximera ömsesidig information mellan utvalda funktioner och klassen.
Learning to Explain: An Information-Theoretic Perspective on Model Interpretation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}