Vi föreslår ett hierarkiskt nätverk för dokumentklassificering. Vår modell har två distinkta egenskaper: i) den har en hierarkisk struktur som speglar dokumentens hierarkiska struktur; ii) den har två nivåer av uppmärksamhetsmekanismer som tillämpas på ord- och meningsnivå, vilket gör det möjligt för den att delta på olika sätt till mer och mindre viktigt innehåll när man konstruerar dokumentrepresentationen. Experiment som utförs på sex storskaliga textklassificeringsuppgifter visar att den föreslagna arkitekturen överträffar tidigare metoder med stor marginal. Visualisering av uppmärksamhetsskikten visar att modellen väljer kvalitativt informativa ord och meningar.
Yang m.fl. REF bidrog till utformningen av det hierarkiska uppmärksamhetsnätverket (HAN) för dokumentklassificering, som har två nivåer av uppmärksamhetsmekanismer som tillämpas på ord- och meningsnivå.
Hierarchical Attention Networks for Document Classification
{'venue': 'HLT-NAACL', 'journal': None, 'mag_field_of_study': ['Computer Science']}