Kloze-stil frågor är representativa problem i läsning förståelse. Under de senaste månaderna har vi sett stora framsteg som använder neurala nätverk strategi för att lösa Cloze-stil frågor. I det här dokumentet presenterar vi en ny modell som kallas uppmärksamhet-över-uppmärksamhet läsare för Cloze-stil läsförståelse uppgift. Vår modell syftar till att placera en annan uppmärksamhetsmekanism över dokument-nivå uppmärksamhet, och framkallar "uppmärksammad uppmärksamhet" för slutliga förutsägelser. Till skillnad från tidigare verk kräver vår neurala nätverksmodell mindre fördefinierade hyperparametrar och använder en elegant arkitektur för modellering. Experimentella resultat visar att den föreslagna modellen för uppmärksamhet framför allt överträffar olika state-of-the-art-system med stor marginal i offentliga datamängder, såsom CNN och Children's Book Test dataset. Detta arbete utfördes av det gemensamma laboratoriet för HIT och iFLYTEK (HFL).
AoA Reader föreslås av Yiming(2016) REF använde en annan ny uppmärksamhetsmekanism på grundval av AS Reader för samma kloze-stil uppgift och överträffar toppmoderna modeller.
Attention-over-Attention Neural Networks for Reading Comprehension
{'venue': 'ACL 2017 Vol.1 Long Papers 593-602', 'journal': None, 'mag_field_of_study': ['Computer Science']}