Vi förbättrar automatisk korrigering av grammatiska, ortografiska, och collocation fel i text med hjälp av en flerlagers convolutional encoder-decoder neurala nätverk. Nätverket initieras med inbäddningar som använder sig av karaktär Ngram information för att bättre passa denna uppgift. Vid utvärdering på gemensamma referenstestdatamängder (CoNLL-2014 och JF-LEG) överträffar vår modell avsevärt alla tidigare neurala metoder på denna uppgift samt starka statistiska maskinöversättningsbaserade system med neurala och uppgiftsspecifika funktioner utbildade på samma data. Vår analys visar överlägsenheten av konvolutionella neurala nätverk över återkommande neurala nätverk såsom långsiktiga korttidsminne (LSTM) nätverk för att fånga det lokala sammanhanget via uppmärksamhet, och därmed förbättra täckningen för att korrigera grammatiska fel. Genom att gilla flera modeller, och införliva en N-gram språkmodell och redigera funktioner via omscoring, blir vår nya metod den första neurala metoden för att överträffa den nuvarande state-of-the-art statistiska maskinen översättningsbaserad metod, både i termer av grammatikalitet och fluens.
Chollampatt och Ng REF förbättrade prestandan hos GEC med hjälp av en flerlagers konvolutional encoder-dekoder neurala nätverk, som helt eliminerade den enorma prestanda gapet mellan neurala och statistiska metoder för denna uppgift.
A Multilayer Convolutional Encoder-Decoder Neural Network for Grammatical Error Correction
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}