Recurrent Neural Network (RNN) och en av dess specifika arkitekturer, Long Short-Term Memory (LSTM), har i stor utsträckning använts för sekvensmärkning. Explicit modellering output label beroenden på toppen av RNN/LSTM är en omfattande och effektiv förlängning. Vi föreslår ytterligare en utvidgning för att införliva den globala information som spänner över hela indatasekvensen. Den föreslagna metoden, kodaren LSTM, kodar först hela ingångssekvensen till en vektor med fast längd med kodaren LSTM, och använder sedan denna kodade vektor som det ursprungliga tillståndet för en annan LSTM för sekvensbeteckning. Med denna metod kan vi förutsäga etikettsekvensen samtidigt som hela indatasekvensinformationen beaktas. I experimenten med en slot fyllning uppgift, som är en viktig del av naturligt språk förståelse, med hjälp av standard ATIS corpus, nådde vi den toppmoderna F 1 - score på 95,66%.
I REF använder författarna en kodningsmärkningsmetod för att först koda meningar till vektorer med fast storlek och sedan använda kodat tillstånd som initialtillstånd för en etikettering av LSTM.
Leveraging Sentence-level Information with Encoder LSTM for Semantic Slot Filling
{'venue': 'EMNLP', 'journal': None, 'mag_field_of_study': ['Computer Science']}