Bygga förklarande system är ett kritiskt problem inom området Natural Language Processing (NLP), eftersom de flesta maskininlärning modeller ger inga förklaringar till förutsägelser. Befintliga metoder för att förklara maskininlärningssystem tenderar att fokusera på att tolka utdata eller kopplingar mellan indata och utdata. Men den finkorniga informationen ignoreras ofta, och systemen genererar inte uttryckligen de mänskliga läsbara förklaringarna. För att bättre lindra detta problem föreslår vi en ny generativ förklaringsram som lär sig att fatta klassificeringsbeslut och samtidigt generera finkorniga förklaringar. Mer specifikt introducerar vi den förklarande faktorn och metoden för minimiriskutbildning som lär sig att generera mer förnuftiga förklaringar. Vi konstruerar två nya dataset som innehåller sammanfattningar, betygspoäng och finkorniga skäl. Vi utför experiment på båda dataseten, jämfört med flera starka neurala nätverk baslinjesystem. Experimentella resultat visar att vår metod överträffar alla baslinjer på båda dataseten och samtidigt kan generera koncisa förklaringar.
På senare tid har Ref föreslagit en ram för att ta fram finkorniga förklaringar för textklassificering.
Towards Explainable NLP: A Generative Explanation Framework for Text Classification
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}