Ordinslag inlärda på omärkta data är ett populärt verktyg inom semantik, men kanske inte fångar de önskade semantikerna. Vi föreslår ett nytt inlärningsmål som innefattar både ett neuralt språkmodellmål (Mikolov et al., 2013) och förkunskaper från semantiska resurser för att lära sig förbättrade lexiska semantiska inbäddningar. Vi visar att våra inbäddningar förbättras jämfört med de inlärda enbart på rå text i tre inställningar: språkmodellering, mätning av semantisk likhet och förutsägelse av mänskliga bedömningar.
I REF föreslogs ett nytt inlärningsmål som innebär att både ett mål för neurala språkmodeller och ett semantiskt mål för förkunskaper tas upp, vilket kan leda till bättre ordinslag för semantiska uppgifter.
Improving Lexical Embeddings with Semantic Knowledge
{'venue': 'ACL', 'journal': None, 'mag_field_of_study': ['Computer Science']}