Vi introducerar en neural maskinöversättning modell som ser inmatning och utgång meningar som sekvenser av tecken snarare än ord. Eftersom information på ordnivå utgör en viktig källa till partiskhet, utgör vår inmatningsmodell representationer av teckensekvenser i framställningar av ord (som bestäms av blankteckens gränser), och sedan översätts dessa med hjälp av en gemensam uppmärksamhet/översättningsmodell. I målspråket är översättningen modellerad som en sekvens av ordvektorer, men varje ord genereras ett tecken i taget, beroende på de föregående teckengenerationerna i varje ord. Eftersom återgivning och generering av ord utförs på teckennivå, är vår modell kapabel att tolka och generera osynliga ordformer. En sekundär fördel med detta tillvägagångssätt är att det lindrar en stor del av de utmaningar som är förknippade med förbehandling/tokenisering av käll- och målspråken. Vi visar att vår modell kan uppnå översättningsresultat som är i nivå med konventionella ordbaserade modeller.
På samma sätt använde REF en dubbelriktad LSTM för att generera semantiska representationer av ord baserade på teckeninbäddningar.
Character-based Neural Machine Translation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}