Att förstå och tolka hur maskininlärning (ML) modeller fattar beslut har varit en stor utmaning. Även om den senaste forskningen har föreslagit olika tekniska metoder för att ge några ledtrådar till hur en ML-modell gör individuella förutsägelser, kan de inte ge användarna möjlighet att inspektera en modell som en komplett enhet. I detta arbete föreslår vi ett nytt tekniskt tillvägagångssätt som förstärker en Bayesiansk icke-parametrisk regressionsblandningsmodell med flera elastiska nät. Med hjälp av den förbättrade blandningsmodellen kan vi ta fram generella insikter för en målmodell genom en global approximation. För att visa nyttan av vårt tillvägagångssätt utvärderar vi det på olika ML-modeller i samband med bildigenkänning. De empiriska resultaten tyder på att vårt föreslagna tillvägagångssätt inte bara överträffar de senaste teknikerna när det gäller att förklara enskilda beslut, utan också ger användarna möjlighet att upptäcka sårbarheterna i ML-modellerna.
REF använde Bayesian icke-parametrisk regressionsblandning modell med flera elastiska nät för att extrahera generaliserbara insikter från den utbildade modellen.
Explaining Deep Learning Models - A Bayesian Non-parametric Approach
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}