De senaste åren har bevittnat uppkomsten av korrekta men obskyra beslutssystem som döljer logiken i sina interna beslutsprocesser för användarna. Bristen på förklaringar till besluten om svarta boxar är en viktig etisk fråga och en begränsning till införandet av maskininlärningskomponenter i socialt känsliga och säkerhetskritiska sammanhang. I detta dokument fokuserar vi på problemet med utfallet av svarta lådan, dvs. att förklara skälen till det beslut som fattats i ett specifikt fall. Vi föreslår LORE, en agnostisk metod som kan ge tolkningsbara och trogna förklaringar. LORE lutar först en lokal tolkningsbar prediktor på ett syntetiskt område som genereras av en genetisk algoritm. Sedan utgår den från logiken hos den lokala tolkningsbara prediktorn en meningsfull förklaring som består av: en beslutsregel, som förklarar skälen till beslutet, och en uppsättning kontrafaktiska regler, vilket tyder på förändringar i instansens egenskaper som leder till ett annat resultat. Breda experiment visar att LORE överträffar befintliga metoder och baslinjer både i kvaliteten på förklaringar och i noggrannheten i att härma den svarta lådan.
Lokala regelbaserade förklaringar (LORE) REF tillämpar en genetisk algoritm för att bygga regelbaserade förklaringar, som erbjuder en uppsättning kontrafaktiska regler.
Local Rule-Based Explanations of Black Box Decision Systems
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}