Beteendet hos djupa neurala nätverk (DNNs) är svårt att förstå. Detta gör det nödvändigt att undersöka metoder för att förklara post hoc. Vi genomför den första omfattande utvärderingen av förklaringsmetoder för NLP. I detta syfte utformar vi två nya utvärderingsparadigm som täcker två viktiga klasser av NLP-problem: små sammanhang och stora kontextproblem. Båda paradigmerna kräver ingen manuell anmärkning och är därför allmänt tillämpliga. Vi introducerar också LIMSSE, en förklaringsmetod inspirerad av LIME som är designad för NLP. Vi visar empiriskt att LIMSSE, LRP och DeepLIFT är de mest effektiva förklaringsmetoderna och rekommenderar dem för att förklara DNN i NLP. Irp länken som tillhandahålls av redaktören ovan [uppmuntrar...] grad dot s länken som tillhandahålls av redaktören ovan [uppmuntrar...] grad L2 s få om några händelser i historien [är...] decomp få om några händelser i historien [är...]
REF har undersökt flera av de tidigare diskuterade teknikerna och har funnit LRP och DeepLIFT vara de mest effektiva tillvägagångssätten för att förklara djupa neurala nätverk i NLP.
Evaluating neural network explanation methods using hybrid documents and morphosyntactic agreement
{'venue': 'ACL 2018', 'journal': None, 'mag_field_of_study': ['Computer Science']}