I detta dokument föreslår vi en ny metod som ger kontrasterande förklaringar som motiverar klassificeringen av en insats av en svart låda klassificerare som ett djupt neuralt nätverk. Med tanke på en insats finner vi vad som bör vara minimalt och tillräckligt närvarande (viz. viktiga objekt pixlar i en bild) för att motivera dess klassificering och analogt vad som bör vara minimalt och nödvändigtvis frånvarande (viz. vissa bakgrundspixlar). Vi hävdar att sådana förklaringar är naturliga för människor och används ofta inom områden som hälso- och sjukvård och kriminologi. Vad som är minimalt men kritiskt frånvarande är en viktig del av en förklaring, som så vitt vi vet inte uttryckligen har identifierats genom nuvarande förklaringsmetoder som förklarar förutsägelser av neurala nätverk. Vi validerar vår strategi på tre verkliga dataset som erhållits från olika domäner, nämligen en handskriven siffror dataset MNIST, en stor upphandling bedrägeri dataset och en hjärnaktivitet styrka dataset. I alla tre fallen bevittnar vi kraften i vårt tillvägagångssätt att generera exakta förklaringar som också är lätta för mänskliga experter att förstå och utvärdera.
Kontrastrande förklaringar föreslås av REF för att identifiera minimala och tillräckliga egenskaper för att motivera klassificeringsresultatet.
Explanations based on the Missing: Towards Contrastive Explanations with Pertinent Negatives
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}