Vi introducerar ett neuralt nätverk med en återkommande uppmärksamhetsmodell över ett möjligtvis stort externt minne. Arkitekturen är en form av Memory Network [22] men till skillnad från modellen i det arbetet är den tränad end-to-end och kräver därför betydligt mindre handledning under utbildningen, vilket gör den mer allmänt tillämplig i realistiska miljöer. Det kan också ses som en utvidgning av RNNsearch [2] till det fall där flera beräkningssteg (hopp) utförs per utdatasymbol. Modellens flexibilitet gör att vi kan tillämpa den på så olika uppgifter som (syntetiska) frågor som besvarar [21] och språkmodellering. För den tidigare vår strategi är konkurrenskraftig med Memory Networks, men med mindre tillsyn. För de senare, på Penn TreeBank och Text8 datauppsättningar vår strategi visar något bättre prestanda än RNNs och LSTMs. I båda fallen visar vi att nyckelbegreppet "multiple computational hops" ger bättre resultat. Vår modell tar en diskret uppsättning ingångar x 1,..., x n som ska lagras i minnet, en fråga q, och utdata ett svar a. Var och en av x i, q, och en innehåller symboler som kommer från en ordbok med V 1 arXiv:1503.08895v4 [cs.NE]
Minnesbaserade neurala nätverk: End to End Memory Network (E2E MemNet) REF är ett Recurrent Neural Network som har ett externt minne.
End-To-End Memory Networks
{'venue': 'NIPS', 'journal': None, 'mag_field_of_study': ['Computer Science']}