Vi presenterar en Character-Word Long ShortTerm Memory Language Model som både minskar komplexiteten med avseende på en grundläggande ordnivå språkmodell och minskar antalet parametrar i modellen. Karaktärsinformation kan avslöja strukturella (olika) likheter mellan ord och kan även användas när ett ord är ut-of-vokabulary, vilket förbättrar modellering av sällsynta och okända ord. Genom inbäddning av ord och karaktär uppnår vi upp till 2,77% relativ förbättring på engelska jämfört med en baslinjemodell med en liknande mängd parametrar och 4,57% på nederländska. Dessutom överträffar vi också grundläggande ordnivåmodeller med ett större antal parametrar.
REF direkt sammansvetsade ord och tecken inbäddningar utan andra undernätverk för att koda tecken för engelska och nederländska.
Character-Word LSTM Language Models
{'venue': 'European Chapter of the Association for Computational Linguistics (EACL) 2017, Valencia, Spain, pp. 417-427', 'journal': None, 'mag_field_of_study': ['Computer Science']}