Vi presenterar ett minne förstärkt neurala nätverk för naturligt språk förståelse: Neural Semantic Encoders (NSE). NSE har ett variabelt kodningsminne som utvecklas över tid och upprätthåller förståelsen av inmatningssekvenser genom läs-, komponera- och skrivoperationer. NSE kan komma åt 1 flera och delade minnen beroende på hur komplex en uppgift är. Vi demonstrerade NSE:s effektivitet och flexibilitet när det gäller fem olika uppgifter i naturligt språk, naturlig språkuppfattning, frågesvar, meningsklassificering, dokumentkänslor och maskinöversättning där NSE uppnådde toppmoderna resultat när de utvärderades på allmänt tillgängliga riktmärken. Till exempel visade vår delade minnesmodell ett uppmuntrande resultat på neural maskinöversättning, vilket förbättrade en uppmärksamhetsbaserad baslinje med cirka 1,0 BLEU.
REF föreslog ett minne förstärkt neurala nätverk, kallas Neural Semantic Encoder (NSE), som mening inbäddning för naturligt språk förståelse uppgifter.
Neural Semantic Encoders
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Mathematics', 'Computer Science', 'Medicine']}