Trots utbredd adoption, maskininlärning modeller förblir mestadels svarta lådor. Att förstå orsakerna till förutsägelser är dock mycket viktigt för att bedöma förtroendet, vilket är grundläggande om man planerar att vidta åtgärder som bygger på en förutsägelse, eller när man väljer om man ska använda en ny modell. Sådan förståelse ger också insikter i modellen, som kan användas för att omvandla en opålitlig modell eller förutsägelse till en pålitlig. I detta arbete föreslår vi LIME, en ny förklaringsteknik som förklarar förutsägelserna av en klassificering på ett tolkningsbart och troget sätt, genom att lära sig en tolkningsbar modell lokalt kring förutsägelsen. Vi föreslår också en metod för att förklara modeller genom att presentera representativa individuella förutsägelser och deras förklaringar på ett icke-redundant sätt, som beskriver uppgiften som ett submodulärt optimeringsproblem. Vi visar flexibiliteten i dessa metoder genom att förklara olika modeller för text (t.ex. Slumpmässiga skogar) och bildklassificering (t.ex. Neurala nätverk). Vi visar nyttan av förklaringar via nya experiment, både simulerade och med mänskliga ämnen, på olika scenarier som kräver förtroende: att besluta om man ska lita på en förutsägelse, välja mellan modeller, förbättra en opålitlig klassificerare, och identifiera varför en klassificerare inte ska lita på.
Tidigare arbete REF föreslår en allmän metod för att förklara en enda förutsägelse av någon komplex modell genom att montera enkla (linjära) modeller på data nära förutsägelsen av intresse.
"Why Should I Trust You?": Explaining the Predictions of Any Classifier
{'venue': "KDD '16", 'journal': None, 'mag_field_of_study': ['Mathematics', 'Computer Science']}