I takt med att algoritmer för maskininlärning i allt högre grad tillämpas på uppgifter med hög effekt men med hög risk, t.ex. problem i hälsa, är det viktigt att forskare kan förklara hur sådana algoritmer kom fram till sina förutsägelser. Under de senaste åren har ett antal avbilda saliency metoder utvecklats för att sammanfatta var mycket komplex neurala nätverk "look" i en bild för bevis för deras förutsägelser. Dessa tekniker begränsas dock av deras heuristiska natur och arkitektoniska begränsningar. I detta dokument gör vi två huvudsakliga bidrag: För det första föreslår vi en allmän ram för att lära sig olika typer av förklaringar för alla Black Box algoritmer. För det andra introducerar vi ett paradigm som lär sig den minimalt framträdande delen av en bild genom att direkt redigera den och lära av motsvarande förändringar av dess utdata. Till skillnad från tidigare verk, vår metod är modell-agnostic och testable eftersom den är jordad i replikerbara bild perturbations.
Nyligen använder REF ett meta-lärande paradigm för att förutsäga den minimalt framträdande regionen genom att redigera bilden och lära av motsvarande förändringar av dess utdata.
Interpretable Explanations of Black Boxes by Meaningful Perturbation
{'venue': 'Proceedings of the 2017 IEEE International Conference on Computer Vision (ICCV)', 'journal': None, 'mag_field_of_study': ['Computer Science', 'Mathematics']}