Vi presenterar en enkel och effektiv strategi för att införliva syntaktisk struktur i neural uppmärksamhet-baserade koddecoder modeller för maskinöversättning. Vi förlitar oss på graf-konvolutionella nätverk (GCN), en ny klass av neurala nätverk som utvecklats för att modellera graf-strukturerade data. Våra GCNs använder förutsagda syntaktiska beroende träd av käll meningar för att producera framställningar av ord (dvs. gömda tillstånd av kodaren) som är känsliga för deras syntaktiska områden. GCN tar ordrepresentationer som ingång och producerar ordrepresentationer som utgång, så att de enkelt kan införlivas som lager i standardkodare (t.ex. ovanpå dubbelriktade RNN eller konvolutionella neurala nätverk). Vi utvärderar deras effektivitet med engelsk-tyska och engelsk-tjeckiska översättningsexperiment för olika typer av kodare och observerar betydande förbättringar över deras syntax-agnostiska versioner i alla ansedda inställningar.
För det första används GCN för att fånga den syntaktiska strukturen i REF, som producerar framställningar av ord och visar förbättringen.
Graph Convolutional Encoders for Syntax-aware Neural Machine Translation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}