Vi presenterar en ny ordnivå vektor representation baserad på symmetriska mönster (SPs). För detta ändamål förvärvar vi automatiskt SPs (t.ex. "X och Y") från en stor corpus av vanlig text, och genererar vektorer där varje koordinat representerar kooccurence i SPs av det representerade ordet med ett annat ord i ordförrådet. Vår representation har tre fördelar jämfört med befintliga alternativ: För det första, baserat på symmetriska ordrelationer, är den mycket lämplig för ordlikviditetsförutsägelse. Särskilt på SimLex999 ordet likhet dataset, vår modell uppnår en Spearmans ρ poäng på 0,517, jämfört med 0,462 av den senaste ordet2vek modell. Intressant nog presterar vår modell exceptionellt bra på verb, outperforming state-of-the-art basics med 20,2-41,5%. För det andra kan mönsterfunktioner anpassas till behoven hos en NLP-app. Till exempel visar vi att vi enkelt kan kontrollera om inbäddningar som härrör från SP anser att anonyma par (t.ex. (stort, litet) som liknande eller olikartade, en viktig distinktion för uppgifter som ordklassificering och känsloanalys. Slutligen visar vi att en enkel kombination av ordet likhet poäng som genereras av vår metod och av ord 2vek resulterar i en överlägsen prediktiv kraft över den för varje enskild modell, scoring så högt som 0.563 i Spearmans ρ på SimLex999. Detta understryker skillnaderna mellan de signaler som fångas upp av var och en av modellerna.
Till exempel, REF lära sig en ordnivå representation baserad på symmetriska mönster som uppnår en Spearman korrelation på 0.517 med SimLex-999.
Symmetric Pattern Based Word Embeddings for Improved Word Similarity Prediction
{'venue': 'CoNLL', 'journal': None, 'mag_field_of_study': ['Computer Science']}