Det senaste arbetet har visat framgång i att använda neurala nätverk språkmodeller (NNLM) som funktioner i MT-system. Här presenterar vi en ny formulering för en neural nätverk gemensam modell (NNJM), som förstärker NNLM med en källa sammanhangsfönster. Vår modell är rent lexikaliserad och kan integreras i vilken MT-dekoder som helst. Vi presenterar också flera varianter av NNJM som ger betydande additiva förbättringar. Även om modellen är ganska enkel ger den starka empiriska resultat. På NIST OpenMT12 arabisk-engelska villkor, NNJM funktioner ger en vinst på +3.0 BLEU utöver en kraftfull, funktionsrik baslinje som redan innehåller en mål-endast NNLM. NNJM-funktionerna ger också en vinst på +6.3 BLEU utöver en enklare baslinje som motsvarar Chiangs (2007) ursprungliga Hiero-implementering. Dessutom beskriver vi två nya tekniker för att övervinna den historiskt höga kostnaden för att använda NNLM-modeller i MT-avkodning. Dessa tekniker påskyndar NNJM beräkning med en faktor på 10.000x, vilket gör modellen lika snabb som en standard back-off LM.
I REF presenterar de också gemensamma modeller som utökar NNLM med ett källkontextfönster för att införa en ny avkodningsfunktion.
Fast and Robust Neural Network Joint Models for Statistical Machine Translation
{'venue': 'ACL', 'journal': None, 'mag_field_of_study': ['Computer Science']}