Att lära sig en tydlig representation för varje känsla av ett tvetydigt ord kan leda till mer kraftfulla och finkorniga modeller av vektor-rymd representationer. Samtidigt som "multi-sense" metoder har föreslagits och testats på artificiella ordsimilaritet uppgifter, vet vi inte om de förbättrar verkliga naturligt språk förståelse uppgifter. I detta papper introducerar vi en rörledning arkitektur för att införliva multi-sense inbäddningar i språkförståelse, och testa prestandan av en toppmodern multi-sense inbäddning modell (baserat på kinesiska restaurangprocesser). Vi tillämpar modellen på del-av-tal taggning, namngivna enhet igenkänning, känsloanalys, semantisk relation identifiering och semantisk besläktade. Vi finner att om vi noggrant kontrollerar antalet dimensioner-sense-specifika inbäddningar, antingen ensam eller konkatenerad med standard (en vektor för alla sinnen) inbäddningar, införa något prestandaboost i semantiska-relaterade uppgifter, men är av lite i andra som är beroende av att korrekt identifiera några nyckelord såsom känsloanalys.
REF experimenterade med oövervakade sense representationer i uppgifter som del-av-tal taggning och namngiven enhet erkännande, med blandade resultat.
Do Multi-Sense Embeddings Improve Natural Language Understanding?
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}