Vi presenterar en gemensam sannolikhetsmodell för statistisk maskinöversättning, som automatiskt lär sig ord och fras motsvarigheter från tvåspråkiga corpora. Översättningar producerade med parametrar som uppskattas med hjälp av den gemensamma modellen är mer exakta än översättningar producerade med IBM Model 4. De flesta av de bullriga kanalbaserade modeller som används i statistisk maskinöversättning (MT) (Brown et al., 1993) är villkorliga sannolikhetsmodeller. I den bullriga-kanal ram, varje käll mening e i en parallell corpus antas "generera" en mål mening f med hjälp av en stokastisk process, vars parametrar uppskattas med traditionella EM-tekniker (Dempster et al., 1977). Den generativa modellen förklarar hur källord kartläggs i målord och hur målord återordnas för att ge välformade målmeningar. En mängd olika metoder används för att redogöra för omordning skede: ordbaserade (Brown et al., 1993), mallbaserade, och syntax-baserade, för att bara nämna några. Även om dessa modeller använder olika generativa processer för att förklara hur översatta ord återordnas i ett målspråk, är de på lexikal nivå ganska lika; alla dessa modeller antar att källord är individuellt översatta till målord. 1 1 De enskilda orden kan innehålla ett icke-existerande element, kallat NUL. Vi misstänker att MT-forskare hittills har valt att automatiskt lära sig översättningslexikon definierade endast över ord av främst pragmatiska skäl. Storskalig tvåspråkig korpora med ordförråd i intervallet hundratusentals ger mycket stora översättningslexikon. Att anpassa sannolikheterna i samband med dessa stora lexikon är en tillräckligt svår uppgift för att avskräcka en från att försöka skala upp till att lära sig frasbaserade lexikon. Tyvärr ger handel med utrymmeskrav och effektivitet för förklarande kraft ofta icke-intuitiva resultat. Betrakta till exempel den parallella corpus av tre mening par visas i figur 1. Intuitivt, om vi tillåter att några källord anpassas till alla målord, är den bästa anpassningen som vi kan komma på den i Figur 1.c. Sentence par (S2, T2) erbjuder starka bevis för att "b c" i språk S betyder samma sak som "x" i språk T. På grundval av detta bevis, förväntar vi oss att systemet också lär sig från mening par (S1, T1) att "a" i språk S betyder samma sak som "y" i språk T. Tyvärr, om man arbetar med översättningsmodeller som inte tillåter Target ord att anpassas till mer än ett källord -som det är fallet i IBM modeller (Brown et al., 1993) -det är omöjligt att lära sig att frasen "b c" i språk S betyder samma sak som ord "x" i språk T. IBM modell 4 (Brown et al., 1993), till exempel, konvergerar till ordet anpassningar som visas i figur 1 b och lär sig översättning probabilitys som visas i figur 1 a. 2 Eftersom man i IBM-modellen inte kan länka ett målord till mer än ett källord, utbildningsproceduren 2 För att träna IBM-4-modellen, använde vi Giza (Al-Onaizan et al., 1999).
I REF presenteras en gemensam sannolikhetsfrasmodell.
A Phrase-Based, Joint Probability Model For Statistical Machine Translation
{'venue': 'Conference On Empirical Methods In Natural Language Processing', 'journal': None, 'mag_field_of_study': ['Computer Science']}