Många uppgifter i den naturliga språkgenerationen, såsom abstrakt sammanfattning och textförenkling, är parafrasorienterade. I dessa uppgifter är kopiering och omskrivning två huvudsakliga skrivlägen. De flesta tidigare sekvens-till-sekvens (Seq2Seq) modeller använder en enda dekoder och försumma detta faktum. I den här artikeln utvecklar vi en ny Seq2Seq-modell för att smälta samman en kopieringsdekoder och en begränsad generativ dekoder. Den kopierande avkodaren finner att positionen kopieras baserat på en typisk uppmärksamhetsmodell. Den generativa dekodern producerar ord som är begränsade i den källspecifika vokabulären. För att kombinera de två avkodarna och bestämma slututgången, utvecklar vi en prediktor för att förutsäga sättet att kopiera eller skriva om. Denna prediktor kan styras av det faktiska skrivläget i träningsdata. Vi utför omfattande experiment på två olika parafraser. Resultatet visar att vår modell överträffar den senaste tekniken både vad gäller informativhet och språkkvalitet.
REF kombinerar en kopieringsdekoder och en generativ dekoder för parafrasgenerering.
Joint Copying and Restricted Generation for Paraphrase
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}