Korthet och fullständighet är nödvändiga för att ge en hel del information koncis när det gäller att förklara ett beslutssystem för svarta rutor. Befintliga maskininlärningsmetoder underlåter dock att beakta korthet och fullständighet samtidigt, vilket kan leda till överflödiga förklaringar. Vi föreslår en systemagnostisk tolkningsbar metod som ger en kort men heltäckande förklaring genom att anta den inspirerande informationsteoretiska principen, information flaskhals princip. Med hjälp av ett informationsteoretiskt mål väljer VIBI exempelmässigt nyckelfunktioner som är maximalt komprimerade om en inmatning (briefness), och informativ om ett beslut som fattas av en svart-box på den indata (omfattande). De utvalda nyckelfunktionerna fungerar som en informationshals som fungerar som en kortfattad förklaring till varje beslut i svarta lådan. Vi visar att VIBI överträffar andra tolkningsbara maskininlärningsmetoder både när det gäller tolkningsbarhet och trohet som utvärderas med hjälp av mänskliga och kvantitativa mått.
Baserat på L2X väljer VIBI REF explicit nyckelfunktioner som är maximalt komprimerade om en inmatning och informativ om ett beslut baserat på en informations-bottleneck princip.
Explaining a black-box using Deep Variational Information Bottleneck Approach
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}