Många problem i NLP kräver aggregering av information från flera omnämnanden av samma enhet som kan vara långt ifrån varandra i texten. Befintliga Neural Network (RNN) skikt är partiska mot kortsiktiga beroenden och lämpar sig därför inte för sådana uppgifter. Vi presenterar ett återkommande lager som i stället är förväntat till coreferent beroenden. Lager använder coreferensanteckningar som utvunnits ur ett externt system för att ansluta företag nämner tillhör samma kluster. Att införliva detta lager i en toppmodern läsförståelsemodell förbättrar prestandan på tre datauppsättningar – Wikihop, LAMBADA och bAbi AI-uppgifter – med stora vinster när det är ont om träningsdata.
REF använder co-referensanteckningar som utvunnits ur ett externt system för att ansluta företag nämner för multihop resonemang.
Neural Models for Reasoning over Multiple Mentions using Coreference
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}