Detta papper undersöker neural karaktärsbaserad morfologisk taggning för språk med komplex morfologi och stora tagguppsättningar. Vi utforskar systematiskt en mängd olika neurala arkitekturer (DNN, CNN, CNNHighway, LSTM, BLSTM) för att få karaktärsbaserade ordvektorer kombinerade med dubbelriktade LSTMs för att modellera korsordssammanhang i en end-to-end-inställning. Vi undersöker kompletterande användning av ordbaserade vektorer som är utbildade på stora mängder omärkta data. Våra experiment för morfologisk taggning tyder på att valet av nätverksarkitektur (CNN vs. CNNHighway vs. LSTM vs. BLSTM) eller förstärkningen med förtränade ordinslag kan vara viktigt och tydligt påverka noggrannheten. Öka modellkapaciteten genom att lägga till djup, till exempel, och försiktigt optimera neurala nätverk kan leda till betydande förbättringar, och skillnaderna i noggrannhet (men inte utbildningstid) blir mycket mindre eller till och med försumbar. Sammantaget överträffar våra bästa morfologiska taggar för tyska och tjeckiska de bästa resultaten som rapporterats i litteraturen med stor marginal.
REF jämförde flera neurala arkitekturer för att få dessa karaktärsbaserade representationer och fann effekten av neurala nätverksarkitekturen vara minimal med tanke på att nätverken är noggrant inställda.
Neural Morphological Tagging from Characters for Morphologically Rich Languages
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}