Tillsammans med neurala språkmodeller, distribuerade ord representationer uppnå betydande fördelar i beräkningslingvistik och textbrytning. De flesta befintliga modeller uppskattar distribuerade ordvektorer från storskaliga data på ett oövervakat sätt, vilket dock inte tar hänsyn till rik språkkunskap. Språklig kunskap kan representeras som antingen länkbaserad kunskap eller preferensbaserad kunskap, och vi föreslår kunskapsreglerade ordrepresentationsmodeller (KRWR) för att införliva dessa förkunskaper för att lära sig distribuerade ordrepresentationer. Experimentella resultat visar att vår uppskattade ordrepresentation uppnår bättre prestanda i uppgiften semantisk rankning. Detta indikerar att våra metoder effektivt kan koda både förkunskaper från kunskapsbaser och statistisk kunskap från storskalig textkorpora till en enhetlig ordrepresentationsmodell, vilket kommer att gynna många uppgifter inom textbrytning.
Kunskap legaliserad ordrepresentation REF införlivar förkunskaper för lärande distribuerade ordrepresentationer.
Incorporating Linguistic Knowledge for Learning Distributed Word Representations