Vi introducerar en modell för att konstruera vektor representationer av ord genom att komponera tecken med hjälp av dubbelriktade LSTMs. I förhållande till traditionella ordrepresentationsmodeller som har oberoende vektorer för varje ordtyp, kräver vår modell endast en vektor per teckentyp och en fast uppsättning parametrar för kompositionsmodellen. Trots att denna modell är kompakt och framför allt den godtyckliga karaktären hos förhållandet mellan form och funktion i språket, ger våra "komponerade" ord representationer toppmoderna resultat i språkmodellering och del-av-tal taggning. Fördelarna jämfört med traditionella baslinjer är särskilt uttalade i morfologiskt rika språk (t.ex. turkiska).
Slutligen tillämpar REF en dubbelriktad LSTM över tecken för att använda som indata för språkmodellering och del-av-tal taggning.
Finding Function in Form: Compositional Character Models for Open Vocabulary Word Representation
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}