Dom kompressionsmetoder baserade på LSTM kan generera flytande komprimerade meningar. Prestandan hos dessa metoder försämras dock avsevärt när man komprimerar långa meningar eftersom det inte uttryckligen hanterar syntaktiska funktioner. För att lösa detta problem, föreslår vi en högre ordning syntaktisk uppmärksamhet nätverk (HiSAN) som kan hantera högre-order beroende funktioner som en uppmärksamhet distribution på LSTM dolda stater. Dessutom, för att undvika påverkan av felaktiga tolkningsresultat, tränar vi HiSAN genom att maximera sannolikheten för en korrekt utgång tillsammans med uppmärksamhetsfördelningen. Experiment på Google mening komprimeringsdata visar att vår metod uppnått bästa prestanda när det gäller F 1 samt ROUGE-1,2 och L poäng, 83.2, 82.9, 75.8 respektive 82.7. I subjektiva utvärderingar, HiSAN överträffade baslinjemetoder i både läsbarhet och informativhet.
REF föreslog en Seq2Seq-modell som kan ta hänsyn till föräldrar med högre ordning genom att spåra beroendeträdet med deras uppmärksamhetsfördelning.
Higher-Order Syntactic Attention Network for Longer Sentence Compression
{'venue': 'NAACL-HLT', 'journal': None, 'mag_field_of_study': ['Computer Science']}