De flesta uppgifter i naturligt språk bearbetning kan kastas i frågesvar (QA) problem över språkinmatning. Vi introducerar det dynamiska minnesnätverket (DMN), en neural nätverksarkitektur som bearbetar inmatningssekvenser och frågor, bildar tillfälliga minnen och genererar relevanta svar. Frågor utlöser en iterativ uppmärksamhetsprocess som gör det möjligt för modellen att fästa sin uppmärksamhet på indata och resultatet av tidigare iterationer. Dessa resultat resoneras sedan över i en hierarkisk återkommande sekvensmodell för att generera svar. DMN kan tränas end-to-end och får toppmoderna resultat på flera typer av uppgifter och dataset: frågesvar (Facebook's bAbI dataset), textklassificering för känsloanalys (Stanford Sentiment Treebank) och sekvensmodellering för del-of-peech taggning (WSJ-PTB). Utbildningen för dessa olika uppgifter bygger uteslutande på utbildade ordvektor representationer och input-frågesvar trioler.
En annan variant av MemNNs är Dynamic Memory Network (DMN) REF som är utrustad med ett tillfälligt minne och verkar vara flexibel i olika inställningar.
Ask Me Anything: Dynamic Memory Networks for Natural Language Processing
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}