Vi presenterar en djupgående analys av fyra populära ord inbäddningar (Word2Vec, GloVe, FastText och Paragram) i termer av deras semantiska kompositionalitet. Dessutom föreslår vi en metod för att anpassa dessa inbäddningar till bättre kompositionalitet. Vi finner att utbildning av befintliga inbäddningar för att komponera lexikografiska definitioner förbättrar deras prestanda i denna uppgift avsevärt, samtidigt som de får liknande eller bättre prestanda i både ordlikhet och mening inbäddande utvärderingar. Vår metod låtar ord inbäddningar med hjälp av en enkel neural nätverk arkitektur med definitioner och lemmas från WordNet. Eftersom ordlistans definitioner är semantiskt lika deras tillhörande lemmas, är de den idealiska kandidaten för vår inställningsmetod, samt att utvärdera för kompositionalitet. Vår arkitektur gör det möjligt att komponera inbäddningar med hjälp av enkla aritmetiska operationer, vilket gör dessa inbäddningar särskilt lämpliga för produktionsapplikationer som webbsökning och datautvinning. Vi utforskar också mer detaljerade och involverade kompositionsmodeller. I vår analys utvärderar vi originella inbäddningar, samt stämda inbäddningar, med hjälp av befintliga ordlikhet och mening inbäddning utvärderingsmetoder. Bortsett från dessa utvärderingsmetoder som används i relaterat arbete utvärderar vi också inbäddningar med hjälp av en rankningsmetod som testar sammansatta vektorer med hjälp av de lexikografiska definitioner som redan nämnts. I motsats till andra utvärderingsmetoder är vår inte invariant av storleken på inbäddningsvektorn som vi visar är viktig för sammansättningen. Vi anser att denna nya utvärderingsmetod, kallad CompVecEval, är ett viktigt bidrag.
REF använder definitionerna för att justera ordinslag mot bättre kompositionalitet.
Improving Word Embedding Compositionality using Lexicographic Definitions
{'venue': 'WWW', 'journal': None, 'mag_field_of_study': ['Computer Science']}