Oberoende mellan meningar är ett antagande djupt förankrat i de modeller och algoritmer som används för statistisk maskinöversättning (SMT), särskilt i den populära dynamiska programmeringsstrålesökning avkodning algoritm. Denna begränsning är ett hinder för forskning på mer sofistikerade diskurs-nivå modeller för SMT. Vi föreslår en stokastisk lokal sökavkodningsmetod för frasbaserad SMT, som tillåter fria dokumentomfattande beroenden i modellerna. Vi utforskar stabiliteten och sökparametrarna för denna metod och visar att den framgångsrikt kan användas för att optimera en semantisk språkmodell på dokumentnivå. När det gäller översättningsstudier är det oomtvistat att samtalsomfattande sammanhang måste övervägas noggrant för goda översättningsresultat (Hatim och Mason, 1990). Däremot förutsätter tekniken i statistisk maskinöversättning (SMT), trots betydande framsteg under de senaste tjugo åren, fortfarande att texter kan översättas mening för mening under strikta självständighetsantaganden, även om det är välkänt att vissa språkliga fenomen som pronomental anaphora inte kan översättas korrekt utan att hänvisa till extra-sentential sammanhang. Detta gäller både för frasbaserade och syntaxbaserade metoder för SMT. I resten av detta dokument kommer vi att koncentrera oss på frasbaserade SMT. En anledning till att det är svårt att experimentera med dokumentomfattande modeller för frasbaserad SMT är att den dynamiska programmeringsalgoritmen (DP) som har använts nästan uteslutande för avkodning av SMT-modeller i den senaste litteraturen har mycket starka antaganden om lokalitet inbyggd i den. DP-strålsökning efter frasbaserad SMT beskrevs av Koehn et al. (2003), förlängning av tidigare arbete med ordbaserad SMT (Tillmann m.fl., 1997; Och m.fl., 2001; Tillmann och Ney, 2003)......................................................................................... Denna algoritm konstruerar utdata meningar genom att börja med en tom hypotes och lägga ut ord i slutet tills översättningar för alla källord har skapats. De centrala modellerna av frasbaserade SMT, särskilt n-gram språkmodellen (LM), beror endast på ett konstant antal utdataord till vänster om det ord som genereras. Detta faktum utnyttjas av sökalgoritmen med en DP-teknik som kallas hypotesrekombination (Och et al., 2001), som tillåter eliminering av hypoteser från sökutrymmet om de sammanfaller i ett visst antal sista ord med en bättre hypotes och ingen framtida expansion kan möjligen invertera den relativa rangordningen av de två hypoteserna under de givna modellerna. Hypotes rekombination uppnår en betydande minskning av sökytan utan att påverka sökoptimaliteten och gör det möjligt att använda aggressiva beskärningstekniker för snabb sökning samtidigt som man får bra resultat. Nackdelen med detta annars utmärkta tillvägagångssätt är att det bara fungerar bra med modeller som har en lokal beroendestruktur liknande den för en n-gram språkmodell, så de är bara beroende av ett litet sammanhangsfönster för varje målord. Sensens-lokala modeller med längre beroenden kan läggas till, men att göra det ökar kraftigt risken för sökfel genom att hämma hypotesåterkombination. Gränsöverskridande beroenden kan inte integreras direkt i avkodningen av DP SMT 1179
REF presenterar en avkodningsprocedur för strålesökning för frasbaserad SMT med funktioner som modellerar korsavkänningsberoenden.
Document-Wide Decoding for Phrase-Based Statistical Machine Translation
{'venue': 'EMNLP', 'journal': None, 'mag_field_of_study': ['Computer Science']}