Vi tolkar förutsägelserna om någon svartbox strukturerad input-strukturerad output-modell runt ett specifikt input-output-par. Vår metod returnerar en "förklara" bestående av grupper av input-output polletter som är kausalt relaterade. Dessa beroenden kan härledas genom att fråga den svarta rutan modellen med perturbed ingångar, generera en graf över polletter från svaren, och lösa ett partitioneringsproblem för att välja de mest relevanta komponenterna. Vi fokuserar den allmänna strategin på sekvens-to-sekvens problem, antar en variationsfri autoencoder för att ge meningsfulla input perturbations. Vi testar vår metod över flera NLP sekvensgenerering uppgifter.
REF utformar en modell som detekterar input-output-par som är orsaksmässigt relaterade.
A causal framework for explaining the predictions of black-box sequence-to-sequence models
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science']}