I detta dokument föreslår vi en ny djup uppmärksam mening beställning nätverk (kallas ATTOrderNet) som integrerar själv-attention mekanism med LSTMs i kodningen av inmatning meningar. Det gör det möjligt för oss att fånga globala beroenden bland meningar oavsett deras insatsordning och få en tillförlitlig representation av meningen satt. Med denna representation utnyttjas ett pekarnätverk för att generera en ordnad sekvens. Den föreslagna modellen är utvärderad på dömande order och order Diskriminering uppgifter. De omfattande experimentella resultaten visar att de är effektiva och överlägsna de senaste metoderna.
För att ta itu med problemet, använder ATTOrderNet REF själv-attention vid kodaren för att fånga globala beroenden oavsett en indata mening ordning.
Deep Attentive Sentence Ordering Network
{'venue': 'Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing', 'journal': 'Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing', 'mag_field_of_study': ['Computer Science']}