Vi föreslår DECAPROP (Densely Connected Attention Propagation), en ny tätt ansluten neural arkitektur för läsförståelse (RC). Det finns två olika egenskaper hos vår modell. För det första förbinder vår modell tätt alla parvisa skikt av nätverket, modellera relationer mellan passage och fråga över alla hierarkiska nivåer. För det andra, de täta kopplingarna i vårt nätverk lärs via uppmärksamhet istället för standard resterande skip-connectors. I detta syfte föreslår vi nya Bidirective Attention Connectors (BAC) för att effektivt skapa anslutningar i hela nätverket. Vi utför omfattande experiment på fyra utmanande RC-riktmärken. Vårt föreslagna tillvägagångssätt uppnår toppmoderna resultat på alla fyra, överträffar befintliga utgångsvärden med upp till 2,6 % − 14,2 % i absoluta F1-poäng.
DecaProp REF ) är en neural arkitektur för att läsa förståelse, som tätt förbinder alla parvisa lager, modellera relationer mellan passage och fråga över alla hierarkiska nivåer.
Densely Connected Attention Propagation for Reading Comprehension
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}