Nyligen föreslagna Skip-gram modell är en kraftfull metod för att lära sig högdimensionella ord representationer som fångar rika semantiska relationer mellan ord. Men såväl Skip-gram som de flesta tidigare arbeten med att lära ord representationer tar inte hänsyn till ord tvetydighet och upprätthålla endast en representation per ord. Även om ett antal Skip-gram ändringar föreslogs för att övervinna denna begränsning och lära sig flerprototyp ord representationer, de antingen kräver ett känt antal ord betydelser eller lära dem med hjälp av girig heuristiska metoder. I detta dokument föreslår vi modellen Adaptive Skip-gram som är en icke-parametrisk Bayesian förlängning av Skip-gram som automatiskt kan lära sig det antal representationer som krävs för alla ord vid önskad semantisk upplösning. Vi härleder effektiv online variationslära algoritm för modellen och empiriskt visa sin effektivitet på wordense induktion uppgift.
REF föreslog en icke-parametrisk Bayesian förlängning av Skip-gram för att automatiskt lära sig det antal representationer som krävs för alla ord och utföra ord sense induktionsuppgifter.
Breaking Sticks and Ambiguities with Adaptive Skip-gram
{'venue': 'ArXiv', 'journal': 'ArXiv', 'mag_field_of_study': ['Computer Science']}