Starka intelligenta maskiner som drivs av djupa neurala nätverk är alltmer utplacerade som svarta lådor för att fatta beslut inom riskkänsliga områden, såsom finansiering och medicinsk. För att minska potentiella risker och skapa förtroende för användarna är det viktigt att tolka hur sådana maskiner fattar sina beslut. Befintliga verk tolkar ett pretränat neuralt nätverk genom att analysera dolda neuroner, härma förtränade modeller eller approximera lokala förutsägelser. Dessa metoder ger dock ingen garanti för exaktheten och konsekvensen i deras tolkningar. I detta dokument föreslår vi en elegant sluten formlösning som heter OpenBox för att beräkna exakta och konsekventa tolkningar för familjen av Piecewise Linear Neural Networks (PLNN). Den viktigaste idén är att först omvandla ett PLN till en matematiskt likvärdig uppsättning linjära klassificeringar och sedan tolka varje linjär klassificering med de egenskaper som dominerar dess förutsägelse. Vi tillämpar dessutom OpenBox för att visa effektiviteten av icke-negativa och glesa begränsningar för att förbättra tolkningen av PLN. De omfattande experimenten med både syntetiska och verkliga data visar tydligt exaktheten och konsekvensen i vår tolkning.
I REF föreslogs tolkningslösningar för delvis linjära neurala nätverk.
Exact and Consistent Interpretation for Piecewise Linear Neural Networks: A Closed Form Solution
{'venue': None, 'journal': 'Proceedings of the 24th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining', 'mag_field_of_study': ['Computer Science']}