Vi föreslår minimal risk utbildning för end-to-end neural maskin översättning. Till skillnad från konventionell uppskattning av maximal sannolikhet kan minimiriskutbildning optimera modellparametrar direkt med avseende på godtyckliga värderingsmått, som inte nödvändigtvis är olika. Experiment visar att vår strategi uppnår betydande förbättringar över maximal sannolikhet uppskattning på en state-of-the-art neural maskinöversättningssystem över olika språk par. Genomskinlig för arkitekturer, kan vår strategi tillämpas på fler neurala nätverk och potentiellt gynna fler NLP uppgifter.
REF införde minimiriskutbildning (MRT) i end-to-end NMT-modell, som optimerade modellparametrar genom att direkt minimera den förväntade förlusten med avseende på godtyckliga värderingsmått, t.ex. på straffnivå BLEU.
Minimum Risk Training for Neural Machine Translation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}