Att förstå varför en modell gjorde en viss förutsägelse är avgörande i många tillämpningar. Men med stora moderna dataset uppnås den bästa noggrannheten ofta genom komplexa modeller även experter kämpar för att tolka, såsom ensemble eller djupt lärande modeller. Detta skapar en spänning mellan exakthet och tolkningsbarhet. Som svar på detta har en rad olika metoder nyligen föreslagits för att hjälpa användarna att tolka förutsägelserna i komplexa modeller. Här presenterar vi en enhetlig ram för tolkning av förutsägelser, nämligen SHAP (SHapley Additive ExPlanations), som tilldelar varje egenskap en betydelse för en viss förutsägelse. De viktigaste nya komponenterna i SHAP-ramverket är identifiering av en klass av additiva egenskaper viktiga åtgärder och teoretiska resultat att det finns en unik lösning i denna klass med en uppsättning önskade egenskaper. Denna klass förenar sex befintliga metoder, och flera nya metoder i denna klass har inte dessa önskade egenskaper. Detta innebär att vårt ramverk kan informera utvecklingen av nya metoder för att förklara prediktiva modeller. Vi visar att flera nya metoder som vi presenterade i detta dokument baserat på SHAP-ramverket visar bättre beräkningsprestanda och bättre överensstämmelse med mänsklig intuition än befintliga metoder.
REF definierar en klass av additiva funktionsattribueringsmetoder och använder spelteoriresultat för att förklara en modells förutsägelse.
A unified approach to interpreting model predictions
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science', 'Mathematics']}