Vi föreslår en sekvensbeteckning ram med ett sekundärt utbildningsmål, lära sig att förutsäga omgivande ord för varje ord i datasetet. Detta språkmodelleringsmål uppmuntrar systemet att lära sig generella mönster av semantisk och syntaktisk sammansättning, som också är användbara för att förbättra noggrannheten på olika sekvensmärkningsuppgifter. Arkitekturen utvärderades på en rad datauppsättningar, som omfattade uppgifterna att upptäcka fel i inlärartexter, namngivna enhetsigenkänning, styckning och POS-märkning. Det nya språkmodellmålet gav konsekventa resultatförbättringar för varje riktmärke, utan att kräva några ytterligare kommenterade eller icke-annoterade uppgifter.
REF förutspådde angränsande ord som ett sekundärt mål att förbättra noggrannheten av olika sekvens märkning uppgifter.
Semi-supervised Multitask Learning for Sequence Labeling
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}