Användningen av konventionella uppskattningar av maximal sannolikhet hindrar prestandan hos befintliga frasbaserade översättningsmodeller. På grund av brist på tillräckligt med utbildningsdata tar de flesta modellerna endast hänsyn till en liten mängd sammanhang. Som ett partiellt botemedel utforskar vi här flera kontinuerliga rumsöversättningsmodeller, där översättningsannolikheterna uppskattas med hjälp av en kontinuerlig representation av översättningsenheter i stället för standard diskreta representationer. För att hantera en stor uppsättning av översättningsenheter, dessa representationer och tillhörande uppskattningar gemensamt beräknas med hjälp av ett flerskikts neuralt nätverk med en SOUL arkitektur. I småskaliga och storskaliga engelska till franska experiment visar vi att de resulterande modellerna effektivt kan tränas och användas ovanpå ett n-grams översättningssystem, vilket ger betydande förbättringar i prestanda.
REF förbättrad översättning kvalitet n-gram översättningsmodell genom att använda en tvåspråkig neural LM, där översättning sannolikheter uppskattas med hjälp av en kontinuerlig representation av översättningsenheter i stället för standard diskreta representationer.
Continuous Space Translation Models with Neural Networks
{'venue': 'NAACL', 'journal': None, 'mag_field_of_study': ['Computer Science']}