Maskinförståelse(MC) stil frågesvar är ett representativt problem i naturligt språk bearbetning. Tidigare metoder spenderar sällan tid på att förbättra kodningsskiktet, särskilt inbäddning av syntaktisk information och namnenhet av orden, som är mycket avgörande för kvaliteten på kodningen. Dessutom representerar befintliga uppmärksamhetsmetoder varje frågeord som en vektor eller använder en enda vektor för att representera hela frågemeningen, ingen av dem kan hantera den rätta vikten av nyckelorden i frågemeningen. I detta papper introducerar vi en ny neural nätverk arkitektur som kallas Multi-layer Embedding med Memory Network (MEMEN) för maskinläsning uppgift. I kodningslagret använder vi klassisk hoppa-gram modell till syntaktisk och semantisk information av orden för att träna en ny typ av inbäddning lager. Vi föreslår också ett minnesnätverk av full-orientering matchning av frågan och passage för att fånga mer central information. Experiment visar att vår modell har konkurrenskraftiga resultat både ur precisions- och effektivitetssynpunkt i Stanford Question Answering Dataset (SQuAD) bland alla publicerade resultat och uppnår de senaste resultaten på TriviaQA-datasetet.
REF föreslog en nätverksbaserad flerskiktsmodell för minne och rapporterade resultat för datasetet TriviaQA.
MEMEN: Multi-layer Embedding with Memory Networks for Machine Comprehension
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}