Vi föreslår Black Box Förklaringar genom Transparent Catimations (BETA), en ny modell agnostic ram för att förklara beteendet hos någon svart-box classi er genom att samtidigt optimera för läckerhet till den ursprungliga modellen och tolkningsbarheten av förklaringen. I detta syfte utvecklar vi en ny objektiv funktion som gör att vi kan lära (med optimala garantier), ett litet antal kompakta beslut sätter var och en av vilka förklarar beteendet hos den svarta lådan modellen i entydiga, välde ner regioner av funktionsutrymme. Dessutom är vårt ramverk också kapabel att acceptera användarinput när de genererar dessa approximationer, vilket gör det möjligt för användare att interaktivt undersöka hur svart-box modellen beter sig i olika subrymder som är av intresse för användaren. Såvitt vi vet, är detta den första metoden som kan producera globala förklaringar av beteendet hos någon given svart låda modell genom gemensam optimering av oambiguity, delity, och tolkningsbarhet, samtidigt som det också gör det möjligt för användare att utforska modellbeteende baserat på sina preferenser. Experimentell utvärdering med verkliga datauppsättningar och användarstudier visar att vårt tillvägagångssätt kan generera mycket kompakta, lättförståeliga men ändå exakta approximationer av olika typer av prediktiva modeller jämfört med toppmoderna baslinjer.
REF använder indata och modellprognoser för att lära sig beslutsuppsättningar som är optimerade för att gemensamt maximera tolkningen av förklaringarna och i vilken utsträckning den ursprungliga modellen förklaras.
Interpretable&Explorable Approximations of Black Box Models
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}