Den nyligen föreslagna neurala nätverk gemensam modell (NNJM) (Devlin et al., 2014) förstärker n-gram målspråk modell med en heuristly valt källkod sammanhangsfönster, uppnå state-of-the-art prestanda i SMT. I detta dokument ger vi en mer systematisk behandling genom att sammanfatta relevant källinformation genom en konvolutionell arkitektur som styrs av målinformationen. Med olika ledsignaler under avkodningen kan våra specialdesignade convolution+gating arkitekturer identifiera de delar av en källmening som är relevanta för att förutsäga ett målord, och sammansmälta dem med sammanhanget för hela källmeningen för att bilda en enhetlig representation. Denna representation, tillsammans med målspråksord, matas till ett djupt neuralt nätverk (DNN) för att bilda en starkare NNJM. Experiment på två NIST kinesiska-engelska översättningsuppgifter visar att den föreslagna modellen kan uppnå betydande förbättringar jämfört med tidigare NNJM med upp till +1,01 BLEU-poäng i genomsnitt.
En konvolutionell kodare med en grindad arkitektur har utformats i REF, som kunde ange de delar av en källmening som är relevanta för målordet för maskinöversättning.
Encoding Source Language with Convolutional Neural Network for Machine Translation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}