I detta arbete utvecklar vi en teknik för att ta fram kontrafaktiska visuella förklaringar. Med tanke på en "query" bild I för vilken ett visionssystem förutsäger klass c, en kontrafaktisk visuell förklaring identifierar hur jag skulle kunna ändra sådan att systemet skulle mata ut en annan specificerad klass c. För att göra detta, väljer vi en " distraktor" bild I att systemet förutspår som klass c och identifiera rumsliga regioner i I och I sådan att ersätta den identifierade regionen i I med den identifierade regionen i Jag skulle driva systemet mot att klassificera I som c. Vi tillämpar vår strategi för flera bildklassificeringsdata som genererar kvalitativa resultat visar tolkningsbarhet och diskriminativitet av våra kontrafaktiska förklaringar. För att undersöka effektiviteten i våra förklaringar i att undervisa människor, presenterar vi maskinundervisning experiment för uppgiften att finkornig fågel klassificering. Vi finner att användare som utbildats för att särskilja fågelarter klarar sig bättre när de får tillgång till kontrafaktiska förklaringar utöver övningsexempel.
Ref föreslog kontrafaktiska visuella förklaringar som identifierar hur indata skulle kunna ändras så att det underliggande visionssystemet skulle fatta ett annat beslut.
Counterfactual Visual Explanations
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}