Vi introducerar en ny modell, Recurrent Entity Network (EntNet). Den är utrustad med ett dynamiskt långtidsminne som gör det möjligt för den att upprätthålla och uppdatera en representation av tillståndet i världen när den tar emot nya data. För språkförståelse uppgifter, kan det resonera on-the-fly som det läser text, inte bara när det krävs för att svara på en fråga eller svara som är fallet för ett Memory Network (Sukhbaatar et al., 2015). Som en Neural Turing Machine eller Differentiable Neural Computer (Graves et al., 2014; 2016) det upprätthåller en fast storlek minne och kan lära sig att utföra plats och innehållsbaserade läs- och skrivoperationer. Till skillnad från dessa modeller har den dock en enkel parallellarkitektur där flera minnesplatser kan uppdateras samtidigt. EntNet sätter en ny state-of-the-art på bAbI uppgifter, och är den första metoden för att lösa alla uppgifter i 10k övning exempel inställning. Vi visar också att det kan lösa en resonemangsuppgift som kräver ett stort antal stödjande fakta, som andra metoder inte kan lösa, och kan generalisera förbi sin träningshorisont. Det kan också praktiskt användas på storskaliga dataset som Barnbokstest, där det får konkurrenskraftiga prestanda, läsa berättelsen i ett enda pass.
Vår modell är också relaterad till arkitekturen Recurrent Entity Networks REF.
Tracking the World State with Recurrent Entity Networks
{'venue': 'ICLR 2017', 'journal': None, 'mag_field_of_study': ['Computer Science']}