Även om neural maskin översättning har uppnått lovande resultat, lider den av långsam översättningshastighet. Den direkta konsekvensen är att en kompromiss måste göras mellan översättningens kvalitet och snabbhet, vilket innebär att dess prestanda inte kan komma i full gång. Vi tillämpar kub beskärning, en populär teknik för att påskynda dynamisk programmering, i neural maskin översättning för att påskynda översättningen. För att konstruera ekvivalensklassen kombineras liknande dolda måltillstånd, vilket leder till mindre RNN-expansionsoperationer på målsidan och mindre softmax-operationer över det stora målvokalet. Experimenten visar att, på samma eller ännu bättre översättning kvalitet, vår metod kan översätta snabbare jämfört med naiv strålsökning med 3,3× på GPU och 3,5× på processorer.
REF tillämpa kub beskärning i neural maskin översättning för att påskynda översättningen.
Speeding Up Neural Machine Translation Decoding by Cube Pruning
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}