Teknikerna för att använda neurala nätverk för att lära distribuerade ord representationer (dvs, ord inbäddningar) har använts för att lösa en mängd olika naturliga språk bearbetning uppgifter. De nyligen föreslagna metoderna, såsom CBOW och Skip-gram, har visat hur effektiva de är när det gäller att lära sig ordinslag baserade på kontextinformation, så att de erhållna ordens inbäddningar kan fånga både semantiska och syntaktiska samband mellan ord. Det är dock ganska utmanande att producera högkvalitativa ord representationer för sällsynta eller okända ord på grund av deras otillräckliga kontextinformation. I detta dokument föreslår vi att man utnyttjar morfologisk kunskap för att ta itu med detta problem. Särskilt introducerar vi den morfologiska kunskapen som både ytterligare input representation och extra övervakning till neurala nätverk ramverket. Som ett resultat, utöver ord representationer, den föreslagna neurala nätverksmodellen kommer att producera morfem representationer, som kan användas ytterligare för att härleda representationer av sällsynta eller okända ord baserat på deras morfologiska struktur. Experiment på en analogisk resonemang uppgift och flera ord likhet uppgifter har visat effektiviteten i vår metod att producera högkvalitativa ord inbäddade jämfört med de senaste metoderna.
Till exempel införde REF en ram för medlärande för att producera både ordrepresentation och morfem representation så att var och en av dem kan förstärkas ömsesidigt.
Co-learning of Word Representations and Morpheme Representations
{'venue': 'COLING', 'journal': None, 'mag_field_of_study': ['Computer Science']}