Vi föreslår Neural Reasoner, ett ramverk för neurala nätverk-baserat resonemang över naturliga språk meningar. Med tanke på en fråga, Neural Reasoner kan dra slutsatsen över flera stödjande fakta och hitta ett svar på frågan i specifika former. Neural Reasoner har 1) en specifik interaktion-pooling mekanism, så att den kan undersöka flera fakta, och 2) en djup arkitektur, så att den kan modellera de komplicerade logiska relationer i resonemang uppgifter. Förutsatt att det inte finns någon särskild struktur i frågan och fakta, Neural Reasoner kan rymma olika typer av resonemang och olika former av språkuttryck. Trots modellens komplexitet, kan Neural Reasoner fortfarande utbildas effektivt på ett end-to-end sätt. Våra empiriska studier visar att Neural Reasoner kan överträffa befintliga neurala resonemang system med anmärkningsvärda marginaler på två svåra artificiella uppgifter (Positiva Resonemang och Path Finding) föreslås [8]. Det förbättrar till exempel noggrannheten på sökvägen(10K) från 33,4% [6] till över 98%.
Ett arbete ännu närmare de modeller som föreslås i denna artikel presenteras i REF.
Towards Neural Network-based Reasoning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}