Vi föreslår en ny kodare-dekoder metod för att lära distribuerade meningsrepresentationer som är tillämpliga på flera syften. Modellen lärs genom att använda ett konvolutionellt neuralt nätverk som en kodare för att kartlägga en inmatning mening i en kontinuerlig vektor, och med hjälp av en lång kortfristig minne återkommande neurala nätverk som en dekoder. Flera uppgifter övervägs, bland annat omorganisering av domar och framtida meningsförutsägelser. Dessutom föreslås en hierarkisk koddecoder modell för att koda en mening för att förutsäga flera framtida meningar. Genom att träna våra modeller på en stor samling romaner får vi en mycket generisk konvolutionell meningskodare som fungerar bra i praktiken. Experimentella resultat på flera referensdatauppsättningar, och i ett brett spektrum av tillämpningar, visar den föreslagna modellens överlägsenhet jämfört med konkurrerande metoder.
REF utforska en hierarkisk modell för att förutsäga flera framtida meningar, med hjälp av en convolutional neural network (CNN) kodare och en långsiktig minne (LSTM) dekoder.
Learning Generic Sentence Representations Using Convolutional Neural Networks
{'venue': 'EMNLP 2017', 'journal': 'arXiv: Computation and Language', 'mag_field_of_study': ['Computer Science']}