De djupa nätverkens beslutsprocesser är svåra att förstå och samtidigt som deras noggrannhet ofta förbättras med ökad arkitektonisk komplexitet, så gör också deras ogenomskinlighet. Praktisk användning av maskininlärningsmodeller, särskilt för fråge- och svarstillämpningar, kräver ett system som kan tolkas. Vi analyserar uppmärksamheten hos en minnesnätverksmodell för att förena motsägelsefulla prestanda på en utmanande frågebesvarande datauppsättning som är inspirerad av teori om sinnesexperiment. Vi likställer framgång i frågor om uppgiftsklassificering, vilket förklarar inte bara test-tid misslyckanden utan också hur väl modellen generaliserar till nya träningsförhållanden.
REF analyserar minnesnätverkens uppmärksamhet för att förstå modellens prestanda på en fråga som svarar på datauppsättningen.
Exploiting Attention to Reveal Shortcomings in Memory Models
{'venue': 'BlackboxNLP@EMNLP', 'journal': None, 'mag_field_of_study': ['Computer Science']}