När en svart-box klassificerare bearbetar en inmatning för att göra en förutsägelse, vilka inmatningsfunktioner är relevanta och varför? Vi föreslår att besvara denna fråga genom att effektivt marginalisera över universum av rimliga alternativa värden för en delmängd av funktioner genom att konditionering en generativ modell av indatadistributionen på de återstående funktionerna. I motsats till nya metoder som beräknar alternativa funktionsvärden ad-hoc-genererande kontrafaktiska indata långt från den naturliga datadistributionen producerar vår modell-agnostiska metod realistiska förklaringar, vilket genererar rimliga indata som antingen bevarar eller ändrar klassificeringskonfident. Vid tillämpning på bildklassificering producerar vår metod mer kompakt och relevant per-feature saliency-tilldelning, med färre artefakter jämfört med tidigare metoder.
För att mer explicit utnyttja funktionen distribution, kan man marginalisera över universum av rimliga alternativa värden för de utvalda funktionerna genom att konditionering en generativ modell av indatadistributionen med tanke på de återstående funktionerna REF.
Explaining Image Classifiers by Counterfactual Generation
{'venue': None, 'journal': 'arXiv: Computer Vision and Pattern Recognition', 'mag_field_of_study': ['Computer Science']}