Språk med rik inflectional morfologi uppvisar lexikal data gleshet, eftersom det ord som används för att uttrycka ett givet begrepp kommer att variera med det syntaktiska sammanhanget. Till exempel, varje räkna substantiv på tjeckiska har 12 former (där engelska använder endast singular och plural). Även i stora corpora, är det osannolikt att vi observerar alla böjningar av en given lemma. Detta minskar ordförrådet täckning av metoder som inducerar kontinuerliga representationer för ord från distributions corpus information. Vi löser detta problem genom att utnyttja befintliga morfologiska resurser som kan räkna upp ett ords komponentmorfemer. Vi presenterar en latentvariabel Gaussian grafisk modell som gör att vi kan extrapolera kontinuerliga representationer för ord som inte observerats i tränings corpus, samt utjämna de representationer som tillhandahålls för de observerade orden. De latenta variablerna representerar inbäddningar av morfomer, som kombineras för att skapa inbäddningar av ord. Över flera språk och träningsstorlekar, förbättrar vår modell inbäddningar för ord, när de utvärderas på en analog uppgift, skip-gram prediktiv noggrannhet, och ordlikhet.
REF utvecklar en metod för att härleda ordvektorer för sällsynta ord för språk med rik inflectional morfologi.
Morphological Smoothing and Extrapolation of Word Embeddings
{'venue': 'ACL', 'journal': None, 'mag_field_of_study': ['Computer Science']}