De senaste tillvägagångssätten använder sekvens-till-sekvens-modellen för parafrasgenerering. Den befintliga sekvens-till-sekvens-modellen tenderar att memorera orden och mönstren i träningsdatasetet istället för att lära sig ordens betydelse. Därför är de frambragta meningarna ofta grammatiskt korrekta men semantiskt olämpliga. I detta arbete introducerar vi en ny modell baserad på encoder-dekoder ramverket, som kallas Word Embedding Attention Network (WEAN). Vår föreslagna modell genererar orden genom att fråga distribuerade ord representationer (dvs. Neurala ord inbäddar), i hopp om att fånga innebörden i orden. Efter tidigare arbete utvärderar vi vår modell på två parafrasorienterade uppgifter, nämligen textförenkling och abstrakt sammanfattning av korta texter. Experimentella resultat visar att vår modell överträffar basvärdet för sekvens-till-sekvens enligt BLEU-poängen på 6,3 och 5,5 på två engelska textförenklingsdata, och ROUGE-2 F1-poängen på 5,7 på en kinesisk sammanfattningsdatauppsättning. Dessutom uppnår vår modell toppmoderna resultat på dessa tre referensdatauppsättningar.
Ref föreslog en modell som genererar ord genom att fråga ord inbäddade.
Query and Output: Generating Words by Querying Distributed Word Representations for Paraphrase Generation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}