Uppmärksamhet, RNN-baserade kodare-dekoder modeller för abstrakt sammanfattning har uppnått bra prestanda på korta ingångs- och utgångssekvenser. Men för längre dokument och sammanfattningar innehåller dessa modeller ofta repetitiva och osammanhängande fraser. Vi introducerar en neural nätverksmodell med intra-attention och en ny utbildningsmetod. Denna metod kombinerar standard övervakad ordförutsägelse och förstärkande inlärning (RL). Modeller tränade endast med den förra uppvisar ofta "exponering partisk" - de antar att marken sanningen tillhandahålls vid varje steg under utbildningen. Men när standard ordförutsägelse kombineras med den globala sekvensförutsägelsen utbildning av RL blir de resulterande sammanfattningarna mer läsbara. Vi utvärderar denna modell på CNN/Daily Mail och New York Times datauppsättningar. Vår modell får en 41.16 ROUGE-1 poäng på CNN/Daily Mail dataset, en 5,7 absoluta poäng förbättring jämfört med tidigare state-of-the-art modeller. Den fungerar också bra som den första abstrakta modellen på New York Times corpus. Human utvärdering visar också att vår modell producerar sammanfattningar av högre kvalitet.
För abstrakt summering använde REF RL för att minska exponeringsfördelen av abstrakt summering.
A Deep Reinforced Model for Abstractive Summarization
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}