Standard maskinöversättningssystem processa meningar i isolering och därmed ignorera extra-sentential information, även om utökad kontext kan både förhindra misstag i tvetydiga fall och förbättra översättningskonsistens. Vi introducerar en kontext-medveten neural maskinöversättning modell utformad på ett sådant sätt att flödet av information från det utvidgade sammanhanget till översättningsmodellen kan styras och analyseras. Vi experimenterar med en engelsk-ryska undertexter dataset, och observera att mycket av vad fångas av vår modell handlar om att förbättra pronomen översättning. Vi mäter korrespondenser mellan framkallade uppmärksamhetsfördelningar och samreferensrelationer och observerar att modellen implicit fångar Anaphora. Det är förenligt med vinster för meningar där pronomen behöver könas i översättning. Förutom förbättringar i anaforiska fall, förbättras modellen också i det totala BLEU, både i dess kontext-agnostiska version (+0,7) och över enkel konkatetering av sammanhang och källmeningar (+0,6).
REF introducerar en kontextmedveten NMT-modell där de kontrollerar och analyserar informationsflödet från det utvidgade sammanhanget till översättningsmodellen.
Context-Aware Neural Machine Translation Learns Anaphora Resolution
{'venue': 'Proceedings of the 56th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)', 'journal': 'Proceedings of the 56th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)', 'mag_field_of_study': ['Computer Science']}