Memory augmented encoder-decoder ram har uppnått lovande framsteg för naturliga språkgenerering uppgifter. Sådana ramar gör det möjligt för en dekoder att hämta från ett minne under generationen. Men mindre forskning har gjorts för att ta hand om minnesinnehållet från olika källor, som ofta har heterogena format. I detta arbete föreslår vi en ny uppmärksamhetsmekanism för att uppmuntra dekodern att aktivt interagera med minnet genom att ta hänsyn till dess heterogenitet. Vår lösning går igenom hela den genererade historien och minnet för att uttryckligen undvika upprepning, och introducera relaterad kunskap för att berika våra genererade meningar. Experiment på svar mening generation uppgift visar att vår metod kan effektivt utforska heterogent minne för att producera läsbara och meningsfulla svar meningar samtidigt som hög täckning för given svarsinformation.
För att ta hand om information från olika källor föreslår REF en uppmärksamhetsmekanism för att uppmuntra dekodern att aktivt interagera med minnet genom att ta hänsyn till dess heterogenitet.
NATURAL ANSWER GENERATION WITH HETEROGENEOUS MEMORY
{'venue': 'NAACL-HLT', 'journal': None, 'mag_field_of_study': ['Computer Science']}